Masjid Quba dikenal sebagai masjid terbesar kedua dan terkemuka di Madinah setelah Masjid Nabawi. Hal ini dianggap oleh banyak orang sebagai tempat suci paling suci ketiga setelah Masjidil Haram dan Masjid Nabawi di Arab Saudi, dan tempat pemberhentian wajib bagi peziarah yang mengunjungi Madinah.
Menurut beberapa sumber, masjid ini didirikan pada 622 Masehi setelah Nabi Muhammad SAW tiba di ibukota Arab Saudi, Makkah. Disadur dari arabnews.com belum lama ini, Masjid Quba terletak di pinggiran Madinah, dimana Nabi biasa pergi ke Masjid Quba setiap hari Sabtu, “Nabi biasa pergi ke Masjid Quba setiap hari Sabtu (kadang-kadang) berjalan dan (kadang-kadang) berkuda,” Ibn ‘Umar yang diriwayatkan oleh Abdullah bin Dinar.
Renovasi pertama dilakukan oleh Khalifah ketiga Utsman Ibnu Affan. Khalifah Umayyah Umar bin Abdul Aziz membangun menara masjid pertama. Abu Yali Al-Husaini merenovasi kembali masjid tersebut pada tahun 435 H. Ia mendirikan sebuah tempat sholat yang dikenal sebagai Mihrab (tempat imam memimpin shalat berjamaah).
Fasilitas yang ada pada masjid ini terdapat 7 pintu masuk utama dan 12 stasiun pelengkap. Masjid ini didinginkan oleh tiga unit tengah, masing-masing memiliki kemampuan satu juta delapan puluh ribu unit pendingin.
Bagian utara diperuntukkan bagi jamaah wanita. Masjid tersebut sekarang memiliki empat menara dan 56 kubah yang terhubung ke rumah para imam dan muadzin, dan sebuah perpustakaan. Kemudian Masjid ini juga memiliki 64 toilet untuk pria dan 32 toilet untuk wanita, dan 42 unit wudhu.