1703. gadā osmaņu sagūstīts un aizvests uz Konstantinopoli. Krievijas vēstnieka nopirkts uz atgādāts uz Krieviju, kur kļuva par Pētera I personīgo kalpu. Kristīts 1705. gadā Viļņā. No 1717. līdz 1723. gadam, kad atgriezās Krievijā, mācījās Mecā. Piedalījās karadarbībā Francijas karaļa Luija XV armijas sastāvā.
Pēc Pētera I nāves 1725. gadā, līdz ar Menšikova nostiprināšanos, tika izsūtīts uz Sibīriju. Vēlāk viņam tika ļauts atgriezties.
No 1731. līdz 1735. gadam Pērnavas nocietinājumu komendants. Kļuva par ietekmīgu personu Elizabetes Petrovnas valdīšanas laikā. No 1742. līdz 1752 gadam - Tallinas komendants. No 1756. gada - Krievijas armijas galvenais kara inženieris, vadīja fortikācijas būvju celtniecību. Demobilizējies 1762. gadā.
Nostāsts vēsta, ka Gannibals bija tas, kurš pierunāja Suvorova tēvu atļaut dēlam mācīties kara skolā. Gannibala muiža Sujda bija viena no pirmajām, kas Krievijā plaši ieviesa kartupeļu audzēšanu.