Yakubu Jack Dan-Yumma Gowon, 19 Ekim 1934'te, Nijerya'nın Plateau eyaletinin Kanke şehrinin Ngas köyünde doğdu. Zaria'da büyüdü ve orada eğitim aldı. Sporda başarılıydı. Boks kaptanlığı yaptı.
1954'te Nijerya ordusuna katıldı. 1955'te, yirmi bir yaşına bastığı gün teğmen oldu. 1956'da İngiltere'deki Sandhurst Kraliyet Askerî Akademisi'nde, 1962'de Staff Üniversitesi'nde, 1965'te Joint Staff Üniversitesi'nde eğitim gördü. 1960 ve 1961'de Birleşmiş Millerler Barış Gücü'ne katılarak Kongo'ya gitti. Tabur komutanlığına kadar yükseldi.
1966'da Nijerya'da, Chukwuma Kaduna Nzeoqwu önderliğinde bir darbe oldu. Hem ülkenin devlet başkanı hem de kuzey ve batı federe devletlerinin başkanları öldürüldü. Yeni devlet başkanı, Johnson Aguiyi-Ironsi oldu. Henüz otuz bir yaşında olan Gowon ise genelkurmay başkanı yapıldı. Ironsi, yayımladığı bir hükümle, ülkedeki federasyonu sonlandırmak istedi. Çünkü ülkenin batı kısmı, ayrı bir ülke olmak istemekteydi. Daha sonra devlet başkanlığına Gowon getirildi. Sıkıyönetim ilan eden Gowon, ülkedeki dört federe devleti ortadan kaldırarak yerine on iki tane eyalet koydu.
Nijerya, Avrupalı güçler tarafından kurulan yapay bir devletti. Nijerya'da üç yüze yakın farklı etnik grup ve kabile vardı. Bu etnik grupların en büyüğü, kuzeyde yer alan ve çoğu Müslüman olan Hausa halkıydı. Bunu, güneybatıya yerleşmiş olan yarı Hristiyan, yarı Müslüman Yoruba halkı ve çoğunluğu Hristiyan olan İgbo halkı takip etmekteydi.
Kuzey bölgedeki İgbolara yönelik katliamlar ve İgbo önderi Odumegwu Ojukwu'ya doğu bölgesinin ordu komutanlığının verilmesi, doğu bölgesindeki İgboların memnuniyetsizliğini artırdı. Mayıs 1967'de, İgbo hakimiyetindeki güneydoğunun askerî valisi Albay Odumegwu Ojukwu, kuzeylilerin katliamları ve seçim hilelerini belirterek, Nijerya'nın güneydoğu kesiminin Biafra Cumhuriyeti adı altında ülkeden ayrıldığını ve bağımsızlığını ilan ettiğini duyurdu. Bu sebeple Nijerya İç Savaşı çıktı. 'Bifra Savaşı' olarak da bilinen bu savaş otuz ay sürdü ve Ocak 1970'de son buldu. Savaşı Nijerya kazandı.
1975'te, Gowon Uganda'dayken, ülkede yeni bir darbe oldu. Gowon görevden alındı. Ülkesine dönmek yerine İngiltere'ye sığınma talebinde bulundu. Sürgün hayatı yaşadıktan sonra 1980'de affedildi ve ülkesine geri döndü.
Gowon, iç savaş nedeniyle Nijerya'da bir milyon kişinin kaybolması ve hayatını kaybetmesinin sorumlusu olarak gösterildi. Gowon daha sonra Afrika'da akil insan olarak görev yaptı.