公元前203年，汉尼拔被迦太基的战争派召回。
离开时，他在克罗托纳（crotona）的朱诺·拉西尼亚神庙（temple of Juno Lacinia）上用布匿语和希腊语在青铜板上刻下了他远征的记录，然后航行回非洲。
汉尼拔的到来立即恢复了战争派系的主导地位，他们将他任命为非洲募兵和来自意大利的雇佣军的指挥官。
公元前202年，汉尼拔与西庇阿（Scipio）举行了一次没有结果的和平会议。
尽管双方互相欣赏，但由于罗马人对“布匿信仰”（punic Faith）的指控，谈判陷入僵局。
这一指控指的是迦太基在第一次布匿战争结束时对萨贡图姆（Saguntum）的攻击及对一支搁浅罗马舰队的袭击，导致了协议的破裂。
斯基比奥和迦太基制定了一项和平计划，得到了罗马的批准。
条约的条款相对温和，但战争对罗马人来说已经持续了很久。
迦太基可以保留其非洲领土，但将失去其海外帝国。
马西尼萨（masinissa）将成为独立国。
此外，迦太基还需减少其舰队，并支付战争赔偿。
然而，迦太基犯下了一个严重的错误。
长期受苦的市民在突尼斯湾（Gulf of tunis）捕获了一支搁浅的罗马舰队，并剥夺了其补给，这一行为加剧了岌岌可危的谈判。
在汉尼拔的支持下，迦太基拒绝了条约和罗马的抗议。
随后，决定性的扎马战役（battle of Zama）很快随之而来。
此次失败使汉尼拔失去了无敌的光环。
---
与第二次布匿战争的大多数战役不同，在扎马战役（battle of Zama）中，罗马人骑兵占据了优势，而迦太基则在步兵方面占优。
这种罗马骑兵的优势源于马西尼萨（masinissa）的背叛，他曾在伊比利亚（Iberia）协助迦太基，但在公元前206年因承诺土地而倒戈，并因与迦太基盟友西法克斯（Syphax）的个人冲突而转向罗马。
尽管年老的汉尼拔在意大利多年征战后身心疲惫，健康状况恶化，但迦太基仍然在人数上占优，并且有80头战象的助阵。
罗马骑兵在早期战斗中取得胜利，迅速击溃了迦太基骑兵。
罗马人还成功限制了迦太基战象的有效性，采用了如吹号角来惊吓战象的战术，迫使它们冲向迦太基阵营。
有些历史学家认为，是战象吓跑了迦太基骑兵，而非罗马人，另一些人则认为这实际上是汉尼拔的战术撤退。
不论真相如何，战斗一直非常激烈。
曾几度看似汉尼拔快要获胜，但西庇阿（Scipio）成功地重新鼓舞了士气。
斯基比奥的骑兵在击溃迦太基骑兵后，攻击了汉尼拔的后方。
这一夹击导致了迦太基阵型的崩溃。
在首席将领被击败后，迦太基别无选择，只能投降。
迦太基损失了大约20,000名士兵，另有15,000人受伤。
而罗马方面则仅损失了2,500人。
第二次布匿战争的最后一场重大战役使汉尼拔在同胞迦太基人中失去了尊重。
失败的后果使迦太基再也无法争夺地中海的霸主地位。
---
在公元前201年第二次布匿战争结束时，汉尼拔只有46岁，并很快展现出他不仅是一位军事将领，也是一位政治家。
在一项使迦太基承担一万塔兰特（talents）赔款的和平协议达成后，他被选为迦太基国家的首席执政官（suffete）。
在审计确认迦太基有资源支付赔款而无需增加税收后，汉尼拔开始进行国家财政的重组，旨在消除腐败并追回挪用的资金。
这些财政问题的主要受益者是“百人委员会”（hundred and Four）的寡头。
为了削弱这些寡头的权力，汉尼拔通过了一项法律，规定“百人委员会”的成员应由直接选举产生，而不是由现任成员自行提名。
他还利用公民的支持，改变了“百人委员会”的任期，从终身制改为一年，并规定任何人不得“连续两年担任职务”。
在公元前201年，经过扎马（Zama）之战的胜利七年后，罗马人因迦太基重新繁荣而感到警惕，并怀疑汉尼拔与塞琉古帝国（Seleucid Empire）的安条克三世（Antiochus III）有联系，派遣代表团向迦太基指控汉尼拔在帮助罗马的敌人。
汉尼拔意识到他有许多敌人，尤其是因其清除腐败的财政改革而结下的仇恨，因而在罗马人要求迦太基将他交出之前选择自愿流亡。
他首先前往迦太基的母城泰尔（tyre），然后到达安条克，最终抵达以弗所（Ephesus），在那里受到了安条克的热情接待。
李维（Livy）记载塞琉古王咨询汉尼拔关于向罗马开战的战略问题。
根据西塞罗（cicero）的说法，汉尼拔在安条克的宫廷参加了一场由哲学家福尔摩（phormio）主持的讲座，讨论了许多主题。
当福尔摩讲完关于将军职责的演说时，汉尼拔被问及他的看法，他回答：“我一生中见过很多老傻瓜，但这个人是最傻的。”
另一个故事是，根据奥古斯丁（Aulus Gellius）的说法，当安条克三世向汉尼拔展示他为征服希腊而组建的庞大精良的军队时，问他这些军队是否足以对付罗马共和国，汉尼拔回答：“我想这些就足够了，是的，足够了，即便他们是最贪婪的。”
公元前193年，塞琉古帝国与罗马之间的紧张局势加剧。
安条克暗中支持汉尼拔在迦太基发动反罗马的政变，但这一计划并未实施。
汉尼拔还建议装备一支舰队并在意大利南部登陆，主动提出由自己指挥。
公元前190年，在经历了一系列在罗马与塞琉古战争中的失败后，安条克给了汉尼拔他在塞琉古宫廷待了五年的第一个重要军事指挥权。
汉尼拔被指派从零开始在基利基亚（cilicia）建造一支舰队。
尽管腓尼基的泰尔和西顿（Sidon）拥有所需的原材料、技术专长和经验丰富的人手，但由于战争期间的短缺，舰队的建造耗时比预期更长。
公元前190年7月，汉尼拔命令他的舰队从塞琉西亚港（Seleucia pieria）沿南小亚细亚海岸启航，以加强在以弗所的塞琉古海军。
随后的一个月，汉尼拔的舰队与罗德海军在赛德（Side）发生冲突。
速度更快的罗德舰船通过“冲撞（diekplous）”战术重创了汉尼拔一半的战舰，迫使他撤退。
虽然汉尼拔保住了大部分舰队，但由于船只需要长时间修理，他无法与波利克斯尼达斯（polyxenidas）的舰队在以弗所会合。
随之而来的米奥尼斯战役（battle of myonessus）导致罗马与罗德的胜利，巩固了罗马对爱琴海的控制，使他们能够对塞琉古的小亚细亚发动入侵。
两军在马格内西亚（magnesia）对峙，结果罗马和佩加梅（pergamon）的联军获得了决定性的胜利。
189年1月，双方在萨尔德斯（Sardes）签署了停战协议，安条克同意放弃对托罗斯山以西所有土地的要求，支付重额战争赔款，并承诺将汉尼拔及其他知名的罗马敌人交给罗马。
根据斯特拉波（Strabo）和普鲁塔克（plutarch）的说法，汉尼拔还曾在亚美尼亚国王阿尔塔克西斯一世（Artaxias I）的宫廷受到款待。
作者们还添加了一个传说故事，称汉尼拔参与规划和监督新王都阿尔塔克萨塔（Artaxata）的建设。
汉尼拔怀疑安条克准备将他交给罗马，于是逃往克里特（crete），但很快又返回小亚细亚，向比提尼亚的普鲁西亚斯一世（prusias I）寻求庇护，后者正在与罗马的盟友佩加蒙王尤美尼斯二世（Eumenes II of pergamon）进行战争。
汉尼拔在这场战争中为普鲁西亚斯服务。
公元前190年，他通过向尤美尼斯的舰船投掷装有毒蛇的陶罐取得了海战胜利。
在公元前184年，汉尼拔在陆地战斗中再次两次击败尤美尼斯。
---
汉尼拔之死。
---
此时，罗马人介入并威胁比提尼亚（bithynia）交出汉尼拔。
普鲁西亚斯（prusias）同意了，但这位将军决心不落入敌手。
汉尼拔的确切死因和年份尚不清楚。
帕乌萨尼亚斯（pausanias）写道，汉尼拔是在骑马时用拔出的剑划伤了手指，导致发热，三天后去世。
科尔内利乌斯·尼波斯（cornelius Nepos）和李维（Livy）则讲述了不同的故事，称前执政官提图斯·昆克提乌斯·弗拉米尼努斯（titus quinctius Flamininus）得知汉尼拔在比提尼亚后，前往请求普鲁西亚斯国王交出汉尼拔。
汉尼拔发现自己居住的城堡被罗马士兵包围，无法逃脱，于是选择服毒自杀。
阿皮安（Appian）写道，正是普鲁西亚斯毒杀了汉尼拔。
老普林尼（pliny the Elder）和普鲁塔克（plutarch）在弗拉米尼努斯的生平中记载，汉尼拔的墓位于马尔马拉海（Sea of marmara）沿岸的利比萨（Libyssa）。
一些人认为利比萨位于吉贝兹（Gebze），在布尔萨（bursa）和乌斯库达（uskudar）之间。
w. m. 李克（w. m. Leake）将吉贝兹与古代的达基比扎（dakibyza）相认，认为它位于更西的地方。
汉尼拔临死前据说留下了一封信，宣称：“让我们解脱罗马人长期以来的焦虑吧，他们认为等待一个老人的死亡太考验他们的耐心。”
阿皮安提到了一则关于汉尼拔之死的预言，称“利比萨的土地将覆盖汉尼拔的遗体。”
他写道，这让汉尼拔相信自己将在利比亚死去，但实际上，他是在比提尼亚的利比萨去世的。
在他的《编年史》（Annales）中，提图斯·庞波尼乌斯·阿提库斯（titus pomponius Atticus）报告汉尼拔于公元前183年去世，李维暗示同样的年份。
波利比乌斯（polybius）在事件发生时写得最近，给出了公元前182年。
苏尔皮基乌斯·布利托（Sulpicius blitho）则记录在公元前181年去世。