Malkoçoğlu Yahya Paşa'nın oğludur. Koca Bali Paşa şeklinde de anılır.
1495'de doğmuş olup, Kanuni Sultan Süleyman'ın yaşıtıdır.
2.nci Bayezit'in kızı Aynişah sultanın kızıyla evlidir .
Semendire sancakbeyi olmuş, 1521 yılında Belgrad'ın fethinde görev yapmıştır.
Daha sonra Belgrad sancakbeyi ve Bosna Beylerbeyi oldu.
1526 yılında Mohaç Savaşı'nda çok üstün başarılar gösterdi.Bir hafta gibi kısa bir sürede ordunun nehirden gecip mohaç ovasına ulaşmasını sağlayacak şekilde bir köprü inşaa ettirmiş Mohaç Savaşında oldukça yararlı olmakla birlikte Mohaç Muharebesi'nde Sağ Ordu komutanıydı.
Budin'in (Budapeşte) ikinci beylerbeyi ve Vezir oldu.
1548 yılında vefat etti.
Budapeşte'nin en büyük meydanının adı Osmanlıların Budapeşteyi kaybettiği zamana kadar Gazi Bali Paşa Meydanıdır.
Mehmet Bey adında bir oğlu vardır.