Gerçekte adı Yun Ma olan Jack Ma, ,Hangzhou, Çin’de 10 Eylül 1964 tarihinde doğdu. Daha küçük yaşlardan İngilizceye ilgi duyan Jack Ma, 12 yaşında şehrine gelen turistlere rehberlik yapıyordu. 8 yıl boyunca bu işi ücretsiz yapan Jack Ma, Avusturalyalı biri ile mektup arkadaşı oldu ve ailenin daveti üzerine onları ziyaret etti. Bu faaliyetleri onu dış dünyaya daha duyarlı bir hale getirdi.
Üniversite giriş sınavını iki kez kaybetmiştir ancak üçüncü deneyişinde Hangzhou Öğretmen Enstütüsüne girdi ve ordan 1988 yılında mezun oldu. Yaşadığı şehirde yapılan başvuruların 24’ünün 23’ü kabul edilirken onunki kabul edilmedi. Şehirde KFC’ye alınmayan tek kişi oldu…
Kariyerine Çinli firmalara çevirmenlik yapmak için seyahate çıktığında başladı denebilir. Seatle seyahatinde internet ve bilgisayar ile tanışan Jack Ma, birkaç denemeden sonra Nisan 1999’da 17 arkadaşı ile birlikte Alibaba’yı kurdu. Şirket kısa sürede büyük bir başarı elde etti ve büyük şirketlerden yatırım almaya başladı. 2003 yılında E-ticaret sitesi olan Taobao’yu kurdu. E-bay bu şirketin de gelişimini görünce şirketi satın almayı teklif etti ancak Jack Ma bu teklifi reddetti.
2005’te Yahoo! adlı şirketin sahibi ile arkdaş olup internetin gelişimi üzerine fikir alışverişinde bulundular ve Yahoo! Alibaba’nın yüzde kırklık hissesini satın aldı.