1111 (H.505) senesinde Tûs'ta vefât etti. Kabri Taberân denilen yerdedir.
İmâm?ı Gazâlî hazretlerinin babası fakir ve sâlih bir zâttı. Âlimlerin sohbetlerinden hiç ayrılmazdı. Elinden geldiği kadar, onlara yardım ve iyilik eder, hizmetlerinde bulunurdu. Âlimlerin nasîhatını dinleyince ağlar ve Allahü teâlâdan kendisine âlim bir evlât vermesini yalvararak isterdi. Allahü teâlâ onun duâsını kabûl edip, Muhammed ve Ahmed isminde iki oğul ihsân etti. Yün eğirip Tûs şehrindeki dükkanında satan bu sâlih zât, vefâtının yaklaştığını anlayınca, oğlu Muhammed Gazâlî'yi ve diğer oğlu Ahmed Gazâlî'yi hayır sâhibi ve zamânın sâlihlerinden bir arkadaşına bıraktı. Bir mikdâr mal vererek vasiyet etti ve ona dedi ki: "Ben kendim, âlim olamadım. Bu yolla kemâle gelemedim. Maksadım, benim kaçırdığım kemâl mertebelerinin, bu oğullarımda hâsıl olması için yardımcı olmanızdır. Bıraktığım bütün para ve erzâkı, onların tahsîline sarf edersin!"
Arkadaşı vasiyeti aynen yerine getirdi. Babalarının bıraktığı para ve mal bitinceye kadar, yetişip olgunlaşmaları için çalıştı. Sonra onlara; "Babanızın, sizin için bıraktığı parayı tahsil ve terbiyenize harcadım. Ben fakirim, param yoktur. Size yardım edemeyeceğim. Sizin için en iyi çâreyi diğer ilim talebeleri gibi medreseye devâm etmenizde görüyorum." dedi. Bunun üzerine iki kardeş doğru söze uyup, medreseye gittiler.