Selang bertahun-tahun kemudian, Ibrahim kemudian diperintahkan oleh Allah untuk membangun kembali Ka’bah. Nabi Ibrahim dan putranya, Ismail kemudian mengangkat batu untuk membangun Ka’bah.
Ulama Islam, Shibli Nomani, menyebutkan bahwa Ka’bah yang diangkat oleh Nabi Ibrahim setinggi 27 kaki, lebarnya 96 kaki, dan lebar 66 kaki. Dia meletakkan Batu Hitam (Hjar Aswad) di sudut timur Ka’bah. Pada saat itulah, Nabi Ibrahim kemudian menerima wahyu dimana Allah memberitahunya bahwa dia harus mewartakan ziarah ke Ka’bah kepada umat manusia.
(Dan (sebutkan, wahai Muhammad), ketika Kami menunjuk Ibrahim ke rumah tersebut, (katakanlah), “Janganlah kamu bergaul dengan Aku dan sucikan rumah-Ku untuk mereka yang melakukan Tawaf dan orang-orang yang berdiri (dalam doa) dan orang-orang Yang sujud dan sujud.) (Surat 22, Ayat 26)
Setelah membangun Ka’bah, Nabi Ibrahim akan datang ke Makkah untuk melakukan haji setiap tahun,. dan setelah kematiannya, anak keturunan Ibrahim pun melanjutkan ritual ini. Namun, sering perjalanan waktu lambat laun baik bentuk maupun tujuan ritual haji pun berubah.
Pada masa pra-Islam, Ka’bah dikelilingi oleh berbagai berhala yang dipasang oleh orang-orang Makkah maupun pendatang yang berasal diari luar yang terbiasa mengunjungi Ka’bah selama musim ziarah tahunan ini.
Shibli Nomani menyebutkan bahwa orang-orang Arab sat itu tidak berjalan di antara perbukitan Al-Safa dan Al-Marwah atau berkumpul di Arafah. Tapi mereka biasa menghabiskan satu hari di daerah terpencil di luar Makkah dan kembali ke Makkah yang mengelilingi Ka’bah.
Selama periode pra-Islam, haji menjadi acara beberapa festival dan kegiatan seperti kompetisi puisi. Puisi-puisi yang paling terkenal yang digunakan dipajang di dinding Ka’bah. Kegiatan dan pertunjukan yang tidak dapat diterima lainnya juga berlangsung selama masa haji.
Keadaan menyedihkan ini berlanjut selama hampir dua setengah ribu tahun dan baru berubah setelah periode Rasulullah Muhammad saw.
Pada 630 M, Nabi Muhammad saw dan orang-orang Muslim kembali dari Madinah ke Makkah serta membebaskan Ka’bah dari ritual kaum pagan dan penyembah berhala. mengklaim Mekah. Saat embebaskan kota Makkah ini Rasullah bersama kaum muslimin membersihkan Ka’bah dan menghancurkan semua berhala.
Tahun berikutnya, Abu Bakr, memimpin 300 Muslim untuk melakukan ibadah haji di Makkah. Ali ibn Abi Thalib berbicara kepada orang-orang, yang menentukan ritual haji yang baru. Dia menyatakan bahwa tidak ada orang kafir atau telanjang yang diizinkan untuk mengelilingi Ka’bah dari tahun berikutnya.
Pada tahun kesepuluh setelah Hijrah (632 M), Nabi Muhammad SAW melakukan haji terakhir dan terakhir dengan sejumlah besar umat Islam, dan dia mengajar mereka ritual haji dan tata krama untuk melakukan ibadah haji.
Di padagang gurun Arafah, Nabi Muhammad SAW menyampaikan pidatonya yang terkenal (Pidato Haji Wada) kepada mereka yang hadir di sana. Di situlah nabi menyampaikan firman Alah: Pada hari ini saya (Allah) telah menyempurnakan agamamu dan melengkapi nikmat-Ku atasmu dan telah menyetujui Islam sebagai agamamu.