Menurut sejarah, sumur itu, awalnya memiliki dua tangki air. Satu untuk air minum dan satu untuk air wudhu, dengan pagar batu sederhana yang mengelilinginya, laiknya sumur-sumur tradisional di Indonesia.
Kemudian pada era Khalifah Abbasiyah Al-Mansur pada 771 Masehi, kubah dibangun di atas sumur dengan ubin marmer. Beberapa tahun kemudian dibangun dua kubah kayu yang dihiasi mozaik, satu untuk melindungi sumur dan yang satunya untuk menaungi peziarah.
Di era modern, restorasi besar-besaran dilakukan oleh Sultan Abdul Hamid II di era Utsmaniah pada 1915. Untuk menghindari kerumunan, bangunan sumur zamzam kemudian dipindahkan dari lokasinya yang kini berada di area tawaf, tempat jutaan jamaah mengelilingi Kabah tujuh kali. Tapi jika jamaah jeli masih terlihat tanda bekas lokasi sumur itu di lantai tawaf.
Sumur zamzam dikabarkan digali dengan tangan dengan kedalaman sekitar 30 meter dan diameter antara dua sampai tiga meter. Sejumlah sumber menyebutkan hingga kedalaman 13,5 meter teratas menembus lapisan alluvium Wadi Ibrahim. Lapisan ini, merupakan lapisan pasir yang sangat berpori. Di bawah lapisan alluvial Wadi Ibrahim ini terdapat setengah meter lapisan yang sangat lulus air (permeable), tempat utama keluarnya air-air di sumur zamzam.
Kedalaman 17 meter ke bawah selanjutnya, sumur ini menembus lapisan batuan keras yang berupa batuan beku Diorit yang banyak di Jazirah Arab. Pada bagian atas batuan ini dijumpai rekahan-rekahan yang juga memiliki kandungan air. Salah satu celah yang mengandung air adalah rekahan yang memanjang ke arah Hajar Aswad dengan panjang 75 cm dan ketinggian 30 cm, juga beberapa celah kecil ke arah Safa dan Marwa.
Dari uji pemompaan sumur ini mampu mengalirkan air sebesar 11 – 18.5 liter/detik, hingga permenit dapat mencapai 660 liter/menit atau 40 000 liter per jam. Bila dulu air diambil dengan ember kayu, maka kini air dipompa dari sumur yang terletak dibalik gelas kaca di ruang bawah tanah itu ke seluruh kran air yang jumlahnya ratusan di seantero Masjidil Haram, terutama di antara Bukit Safa dan Marwa.
Sekalipun sumur zamzam dipercaya sebagai air suci, Pemerintah Arab Saudi tidak tinggal diam menyerahkan nasib sumur tersebut pada alam. Sebagaimana imbauan dalam kitab suci bahwa manusia harus selalu berupaya, maka pemerintah negeri kaya minyak itu membentuk sebuah lembaga khusus untuk mengawasi air zamzam pada tahun 90-an, mulai dari kelangsungannya hingga menjaga kualitasnya.
Mengingat, dari tahun ke tahun makin banyak pembangunan hotel pencakar langit di sekitar kawasan Masjidil Haram. Belum lagi beberapa tahun lalu dunia sempat dihebohkan dengan pemberitaan media yang menyebutkan bahwa air tersebut tercermar. Walaupun akhirnya terbantahkan namun upaya perawatan tetap dilakukan.
Apalagi, dengan daerah tangkapan air seluas 60 km2, cekungan yang memasok air ke sumur zamzam dinilai tidak terlampau luas sebagai cekungan penadah hujan sehingga menurut http://www.kelair.bppt.go.id/ sumur tersebut secara hidrologi tetap memerlukan perawatan.
Oleh karena itu, air siap saji yang kini bertebaran di sekitar Masjidil Haram dan Masjid Nabawi di Madinah konon merupakan air yang sudah diproses sehingga sangat aman diminum bahkan ada yang sudah didinginkan. Namun tentunya proses itu tidak mengubah rasa dan kandungan air tersebut.
Air zamzam secara kasat mata tidak berwarna dan tidak berbau, tetapi memiliki rasa yang berbeda, dengan pH 7,9-8,0, yang menunjukkan bahwa itu adalah basa sampai batas tertentu.
Dengan segala kisahnya, air zamzam menjadi barang yang paling dicari setiap musim haji tiba, baik oleh petugas pemeriksaan kopor jamaah di bandara kepulangan atau oleh para tamu yang mengucapkan selamat datang di Tanah Air.