Saat sedang berziarah di makam Nabi Ibrahim, Imam Ghazali menyatakan tiga hal sebagai komitmen pribadi. Pertama, tidak akan lagi mengunjungi pengadilan. Kedua, tidak akan lagi menerima hadiah dari kalangan kerajaan. Ketiga, tidak akan lagi mendebat orang.
Imam Ghazali kemudian memutuskan pergi berhaji. Selama 10 tahun, ia mencari ketenangan batin. Ia menjelajahi padang gurun, hutan, perkotaan, dan pegunungan. Dalam pada itu, ia juga menulis banyak buku.
Setelah sekian lama itu, Imam Ghazali akhirnya kembali ke Baghdad. Dia diterima dengan sukacita oleh pemerintah dan masyarakat Kota Baghdaddan kemudian Nishapur. Di sinilah ia menulis karya akbarnya, Ihya Ulumu ad-Din. Namun, Imam Ghazali hanya mengajar tidak lama di Nizamiyya Nishapur. Ia kemudian kembali ke kampung halamannya, Tabran, di mana ia mendirikan sekolah sendiri dan mengajar.
Baca juga: Pemikiran Wasathiyah Al Ghazali pada Kaum Muslimah
Imam Ghazali wafat pada 505 Hijriah (1111 Masehi) dalam usia 53 tahun. Saudaranya, Ahmad Ghazali, menyaksikan saat-saat terakhir Imam Ghazali. Katanya, Pada Senin pagi, Imam (Ghazali) bangun dan mengambil wudhu. Kemudian, ia shalat sunah Fajar. Lalu, ia meminta serbannya dan sambil menciumnya ia menjelaskan, ‘Aku menerima Allah sebagai Tuhanku’. Kemudian, Imam Ghazali wafat