Hudzaifah Ibnul Yaman lahir di rumah tangga Muslim, dipelihara dan dibesarkan dalam pangkuan kedua orang tuanya yang telah memeluk agama Allah, sebagai rombongan pertama.
Oleh sebab itu, Hudzaifah telah Islam sebelum dia bertemu muka dengan Rasulullah. Setelah Rasulullah hijrah ke Madinah, Hudzaifah selalu mendampingi beliau bagaikan seorang kekasih. Hudzaifah turut bersama-sama dalam setiap peperangan yang dipimpinnya, kecuali dalam Perang Badar.
Dalam Perang Uhud, Hudzaifah ikut memerangi kaum kafir bersama dengan ayahnya, Al-Yaman. Dalam perang itu, Hudzaifah mendapat cobaan besar. Dia pulang dengan selamat, tetapi bapaknya syahid oleh pedang kaum Muslimin sendiri, bukan kaum musyrikin. Kaum Muslimin tidak mengetahui jika Al-Yaman adalah bagian dari mereka, sehingga mereka membunuhnya dalam perang.
Rasulullah menilai dalam pribadi Hudzaifah Ibnul Yaman terdapat tiga keistimewaan yang menonjol. Pertama, cerdas, sehingga dia dapat meloloskan diri dalam situasi yang serba sulit. Kedua, cepat tanggap, berpikir cepat, tepat dan jitu, yang dapat dilakukannya setiap diperlukan. Ketiga, cermat memegang rahasia, dan berdisiplin tinggi, sehingga tidak seorang pun dapat mengorek yang dirahasiakannya.
Kesulitan terbesar yang dihadapi kaum Muslimin di Madinah ialah kehadiran kaum Yahudi munafik dan sekutu mereka, yang selalu membuat isu-isu dan muslihat jahat. Untuk menghadapi kesulitan ini, Rasulullah memercayakan suatu yang sangat rahasia kepada Hudzaifah Ibnul Yaman—dengan memberikan daftar nama orang munafik itu kepadanya. Itulah suatu rahasia yang tidak pernah bocor kepada siapa pun hingga sekarang.
Dengan memercayakan hal yang sangat rahasia itu, Rasulullah menugaskan Hudzaifah memonitor setiap gerak-gerik dan kegiatan mereka, untuk mencegah bahaya yang mungkin dilontarkan mereka terhadap Islam dan kaum Muslimin. Karena inilah, Hudzaifah Ibnul Yaman digelari oleh para sahabat dengan “Shahibu Sirri Rasulullah (Pemegang Rahasia Rasulullah).
Pada puncak Perang Khandaq, Rasulullah memerintahkan Hudzaifah melaksanakan suatu tugas yang amat berbahaya. Beliau mengutus Hudzaifah ke jantung pertahanan musuh, dalam kegelapan malam yang hitam pekat.
“Ada beberapa peristiwa yang dialami musuh. Pergilah engkau ke sana dengan sembunyi-sembunyi untuk mendapatkan data-data yang pasti. Dan laporkan kepadaku segera!” perintah beliau.
Hudzaifah pun bangun dan berangkat dengan takutan dan menahan dingin yang sangat menusuk. Maka, Rasulullah berdoa, “Ya Allah, lindungilah dia, dari depan, dari belakang, kanan, kiri, atas, dan dari bawah.”
“Demi Allah, sesudah Rasulullah selesai berdoa, ketakutan yang menghantui dalam dadaku dan kedinginan yang menusuk-nusuk tubuhku hilang seketika, sehingga aku merasa segar dan perkasa,” tutur Hudzaifah.
Tatkala ia memalingkan diri dari Rasulullah, beliau memanggilnya dan berkata, “Hai Hudzaifah, sekali-kali jangan melakukan tindakan yang mencurigakan mereka sampai tugasmu selesai, dan kembali kepadaku!”
“Saya siap, ya Rasulullah,” jawab Hudzaifah.
Hudzaifah pun pergi dengan sembunyi-sembunyi dan hati-hati sekali, dalam kegelapan malam yang hitam kelam. Ia berhasil menyusup ke jantung pertahanan musuh dengan berlagak seolah-olah anggota pasukan mereka. Belum lama berada di tengah-tengah mereka, tiba-tiba terdengar Abu Sufyan memberi komando.
“Hai, pasukan Quraisy, dengarkan aku berbicara kepada kamu sekalian. Aku sangat khawatir, hendaknya pembicaraanku ini jangan sampai terdengar oleh Muhammad. Karena itu, telitilah lebih dahulu setiap orang yang berada di samping kalian masing-masing!”
Mendengar ucapan Abu Sufyan, Hudzaifah segera memegang tangan orang yang di sampingnya seraya bertanya, “Siapa kamu?”
Jawabnya, “Aku si Fulan, anak si Fulan.”
Sesudah dirasanya aman, Abu Sufyan melanjutkan bicaranya, “Hai, pasukan Quraisy. Demi Tuhan, sesungguhnya kita tidak dapat bertahan di sini lebih lama lagi. Hewan-hewan kendaraan kita telah banyak yang mati. Bani Quraizhah berkhianat meninggalkan kita. Angin topan menyerang kita dengan ganas seperti kalian rasakan. Karena itu, berangkatlah kalian sekarang dan tinggalkan tempat ini. Sesungguhnya aku sendiri akan berangkat.”
Selesai berkata demikian, Abu Sufyan kemudian mendekati untanya, melepaskan tali penambat, lalu dinaiki dan dipukulnya. Unta itu bangun dan Abu Sufyan langsung berangkat. Seandainya Rasulullah tidak melarangnya melakukan suatu tindakan di luar perintah sebelum datang melapor kepada beliau, tentu ia akan membunuh Abu Sufyan dengan pedangnya.
Hudzaifah Ibnul Yaman sangat cermat dan teguh memegang segala rahasia mengenai orang-orang munafik selama hidupnya, sampai kepada seorang khalifah sekali pun. Bahkan Khalifah Umar bin Khathtab, jika ada orang Muslim yang meninggal, dia bertanya, “Apakah Hudzaifah turut menyalatkan jenazah orang itu?” Jika mereka menjawab, “Ada,” Umar turut menyalatkannya.
Suatu ketika, Khalifah Umar pernah bertanya kepada Hudzaifah dengan cerdik, “Adakah di antara pegawai-pegawaiku orang munafik?”
“Ada seorang,” jawab Hudzaifah.
“Tolong tunjukkan kepadaku siapa?” kata Umar.
Hudzaifah menjawab, “Maaf Khalifah, saya dilarang Rasulullah mengatakannya.”
Walau demikian, amat sedikit orang yang mengetahui bahwa Hudzaifah Ibnul Yaman sesungguhnya adalah pahlawan penakluk Nahawand, Dainawar, Hamadzan, dan Rai. Dia membebaskan kota-kota tersebut bagi kaum Muslimin dari genggaman kekuasaan Persia. Hudzaifah juga termasuk tokoh yang memprakarsai keseragaman mushaf Alquran, sesudah kitabullah itu beraneka ragam coraknya di tangan kaum Muslimin.
Ketika Hudzaifah sakit keras menjelang ajalnya tiba, beberapa orang sahabat datang mengunjunginya pada tengah malam. Hudzaifah bertanya kepada mereka,”Pukul berapa sekarang?”
Mereka menjawab, “Sudah dekat Subuh.”
Hudzaifah berkata, “Aku berlindung kepada Allah dari Subuh yang menyebabkan aku masuk neraka.”
Ia bertanya kembali, “Adakah kalian membawa kafan?”
Mereka menjawab, “Ada.”
Hudzaifah berkata, “Tidak perlu kafan yang mahal. Jika diriku baik dalam penilaian Allah, Dia akan menggantinya untukku dengan kafan yang lebih baik. Dan jika aku tidak baik dalam pandangan Allah, Dia akan menanggalkan kafan itu dari tubuhku.”
Sesudah itu dia berdoa kepada Allah, “Ya Allah, sesungguhnya Engkau tahu, aku lebih suka fakir daripada kaya, aku lebih suka sederhana daripada mewah, aku lebih suka mati daripada hidup.”
Sesudah berdoa demikian, ruhnya pun pergi menghadap Ilahi. Seorang kekasih Allah kembali kepada Allah dalam kerinduan. Semoga Allah melimpahkan rahmat-Nya.