Hampir semua umat Islam akan serempak menjawab masjid Quba. Memang benar, masjid inilah yang pertama kali didirikan Rasulullah SAW, saat beliau hijrah dari Makkah ke Madinah. Beberapa kilometer sebelum memasuki Madinah, Rasulullah SAW bersama Abu Bakar membangun masjid di daerah Quba, yang sekarang dinamakan dengan Masjid Quba.
Masjid ini didirikan pada tahun 1 Hijriyah atau sekitar 622 M. Ketika itu, Rasul SAW diperintahkan oleh Allah SWT untuk segera berhijrah dan menghindari kekejaman kafir Quraisy.
Dalam upaya hijrah itu, lokasi pertama yang disinggahi Rasulullah SAW adalah Gua Tsur. Di dalam gua ini, Rasulullah SAW bersembunyi bersama Abu Bakar dari kejaran kaum kafir Quraisy. Setelah kondisinya dirasa aman, Nabi SAW kemudian melanjutkan perjalanan menuju Madinah. Rasul memilih jalan yang berbeda dari jalan umum. Hal ini dimaksudkan untuk menghindari pertemuan secara langsung dengan orang-orang kafir Quraisy.
Dan sebelum tiba di Madinah, Rasul sempat singgah di beberapa tempat dan salah satunya adalah Quba. Beliau tinggal di daerah ini selama beberapa hari, sambil menunggu kedatangan Ali bin Abi Thalib RA dari Makkah, bersama rombongan. Ketika itu, saat akan berhijrah, Ali diperintahkan Rasulullah SAW untuk menggantikannya tidur di tempat tidur Rasul. Ini dimaksudkan untuk mengelabui perhatian kaum kafir Quraisy yang ingin membunuh Nabi SAW.
Quba adalah satu daerah yang terletak di wilayah Madinah. Jaraknya sekitar dua mil atau kurang lebih lima kilometer dari pusat kota Madinah. Hanafi al-Malawi dalam bukunya Tempat Bersejarah yang dikunjungi Rasulullah SAW, menjelaskan, Nabi SAW tinggal di Desa Quba selama empat hari dan kemudian membangun sebuah masjid yang sekarang dikenal dengan nama Masjid Quba.
Inilah masjid yang dibangun dengan dasar ketaatan dan ketakwaan Rasulullah SAW kepada Allah SWT. ”Sesungguhnya Masjid yang didirikan atas dasar takwa (Masjid Quba) sejak hari pertama adalah lebih patut kamu shalat di dalamnya. Di dalam masjid itu ada orang-orang yang ingin membersihkan diri. Dan Allah menyukai orang-orang yang bersih.” (QS At-Taubah [9]: 108).
Menurut hadis yang diriwayatkan Tirmidzi RA, orang yang melakukan shalat di Masjid Quba sama pahalanya dengan melaksanakan umrah. Seperti disebutkan dalam Sahih Bukhari, Nabi SAW terbiasa mengunjungi Masjid Quba dengan berjalan kaki atau jika tidak seminggu sekali. Abdullah bin Umar biasa mengikuti sunah ini.
Dalam riwayat lain disebutkan, Masjid Quba ini adalah salah satu masjid yang paling disucikan (dimuliakan) oleh Allah setelah Masjid al-Haram (Makkah), Masjid Nabawi (Madinah), dan Masjid al-Aqsha (Palestina). Selama berada di Quba, jelas Al-Mahlawi, Rasul SAW tinggal di rumah Kultsum bin al-Hadam bin Amr al-Qais, seorang lelaki tua yang masuk Islam sebelum Rasul hijrah ke Yatsrib (sekarang Madinah).
Para sejarawan menyebutkan, tanah yang menjadi lahan pembangunan Masjid ini mulanya adalah lapangan milik Kultsum bin Hadam, yang biasa digunakan untuk menjemur kurma. Masjid Quba adalah masjid yang dibangun dengan penuh pengorbanan dan perjuangan. Allah SWT menyebutnya dengan dasar takwa, sebagaimana diterangkan dalam ayat 108 di atas.
Hal ini dikarenakan perjuangan Rasulullah SAW dalam menegakkan agama Allah yang harus dilalui dengan penuh rintangan dan halangan. Kaum kafir Quraisy hampir setiap saat selalu memantau dan mengawasi aktivitas Nabi SAW. Dan ketika kesempatan berhijrah datang, maka langkah awal yang harus dilakukan adalah dengan mendirikan masjid sebagai pusat perjuangan dan dakwah Islam. Ini pulalah yang dilakukan Rasulullah SAW begitu tiba di Madinah dengan mendirikan Masjid Nabawi, setelah sebelumnya membangun Masjid Quba.