Ali Akyüz 1945 senesinde Trabzon'un Of ilçesinin Yukarı Kışlacık Köyü'nde dünyaya geldi. İlk ve Ortaokulu Of'ta tamamladı. Sonrasında Trabzon Lisesi'ne başladı ve 1962 senesinde mezun oldu.
Bir sene İstanbul Üniversitesi Orman Fakültesi'nde okudu, sonra 1963 senesinde İstanbul Üniversitesi, İstanbul Tıp Fakültesi'ne girdi ve 1969 senesinde mezun oldu. Askerlik vazifesini Zonguldak Jandarma Birliği hekimi olarak tamamladı.
1971 senesinde SSK Okmeydanı Hastanesi'nde çalışmaya başladı. Üç aylık bir çalışma döneminden sonra Ağustos 1971 tarihinde İstanbul Tıp Fakültesi, 1.Cerrahi Kürsüsü'nde gönüllü asistan olarak göreve başladı.
Nisan 1974 tarihinde kadrolu asistan olarak ihtisasa başladı ve 1978 senesinde uzman oldu.
1982 senesinde doçent oldu, sonrasında 1986 senesinde 6 ay süreyle İngiltere'de St.Thomas Hospital'de Gastroenteroloji Endoskopi Birimi'nde çalıştı.
Yurda dönüşü sonrası 1987 senesinde Türkiye'nin ilk “Cerrahi Gastroenteroloji Endoskopi Ünitesi”ni kurdu.
1988 senesinde profesörlüğe yükseldi. 2000 senesinden bu yana İstanbul Tıp Fakültesi, Genel Cerrahi Anabilim Dalı Başkanlığı vazifesini yürütmektedir.