Seperti kita ketahui pahala shalat di Masjid Nabawi adalah 1.000 kali lipat dibandingkan dengan shalat di masjid biasa. Jika kita lihat saat ini Masjid Nabawi sangat megah dan kokoh itu semua berawal dari perjuangan Rasulullah, para sahabat, dan Khalifah.
Rasulullah telah membangun dan membina masjid Nabawi dengan berlandaskan ketakwaan kepada Allah. Ketika Rasulullah keluar dari Quba menuju kota Madinah, banyak sekali pengikut beliau yang saling berebutan untuk menarik tali Unta Rasulullah dan menawarkan tempat untuk Rasulullah tinggal.
Dengan penuh kearifan beliau menjawab permintaan dan tawaran penduduk Madinah dan berkata “Biarkanlah unta ini jalan, karena ia diperintah Allah”.
Setelah sampai di depan rumah Abu Ayub Al-Ansari, unta tersebut berhenti dan Abu Ayub sangat senang dan mempersilahkan Rasulullah untuk tinggal di rumahnya. Setelah beberapa bulan di rumah Abu Ayyub Al-Anshari, Rasulullah mendirikan masjid di atas sebidang tanah wakaf dari As’ad bin Zurrah dan anak yatim Sahal dan Suhail, anak Amir Bin Amarah yang diasuh oleh Muadz bin Atrah.
Saat mulai pembangunan masjid, Rasulullah meletakan batu pertama, diikuti dengan batu kedua, ketiga, dan keempat dibantu oleh Abu Bakar, Umar, Utsman dan Ali. Kemudian masjid tersebut dibangun bersama-sama dengan kaum Anshar dan kaum Muhajirin hingga selesai.
Saat itu, pagar Masjid Nabawi terbuat dari batu tanah dengan tinggi 2 meter. Tiang-tiangnya dari batang kurma, atapnya dari pelepah daun kurma, dan halaman ditutup dengan batu-batuan kecil. Saat itu, kiblat pun menghadap ke Baitul Maqdis karena pada waktu itu belum turun perintah Allah untuk menghadap ke ka’bah. Masjid Nabawi terus dibangun dan diperluas oleh para khalifah dan tabi’in.
Pada masa Umar bin Khattab tahun 17 H (638 M) bangunan direnovasi dan diperluas pada bagian Selatan, Barat, dan Utara seluas 1100 meter persegi . Di masa Khalifah Utsman bin Affan tahun 29 H (649 M) bangunan Masjid dibangun dengan batu dan beliau memperluas masjid di sisi bagian Selatan, Barat dan Utara sebesar 470 meter persegi.
Pada tahun 88 H (706 M) khalifah dari Bani Umayah Al-Walid bin Abdul Malik merenovasi bangunan dan melakukan perluasan masjid di sisi bagian Barat, Selatan, dan Timur. Hujrah Syarifah dimasukan dalam kawasan bangunan masjid dengan tetap menjaga Hujrah Umul Mukminin Aisyah yang merupakan tempat pemakaman Rasulullah dan kedua sahabatnya, Abu Bakar dan Ummar bin Khathab.
Tahun 161 H (777 M) Khalifah Al-Mahdi Al-Abbasi memerintahkan agar masjid diperluas lagi, maka jadilah luas bangunan secara keseluruhan 8890 meter persegi dan dibangun kembali tanpa perluasan karena terjadi kebakaran hebat pada tahun 645 H (1226 M).
Pada tahun 879 H (1474 M) dibangun kembali beberapa bagian masjid atas perintah Sultan Al-Mamluki Al-Asyraf Al-Qaytbai. Ketika itu halilintar menyambar menara utama hingga timbul kebakaran besar pada tahun 886 H (1481 M), lalu Al-Asyraf memerintahkan agar bangunan Masjid dibangun kembali dan diperluas sisi bagian timur seluas 120 meter persegi dan dibangun menara baru di babur rahmah.
Dari masa ke masa, nama-nama yang berperngaruh pada pembangunan masjid Nabawi diantaranya ; Sultan Abdul Majid al-Utsmani, Raja Abdul Aziz Ali Saud, Raja Fahd yang bergelar “Pelayan Dua Tanah Suci” pada masa inilah perluasan masjid yang signifikan dan termegah sepanjang sejarah, secara keseluruhan Masjid Nabawi diperluas 400.327 meter persegi.