Piagam Madinah merupakan peraturan yang bersifat terbuka dan demokratis. Betapa tidak, semua golongan dan kelompok masyarakat memiliki aturan yang disepakati bersama demi menciptakan kerukunan hidup antarumat beragama dan masyarakat.
Di dalam Piagam Madinah ini, juga terdapat sejumlah poin tambahan yang dikembangkan seiring dengan perkembangan dan kebutuhan masyarakat Madinah. Poin pokok tambahan itu terdapat pada bagian pertama Piagam Madinah yang dalam perkembangannya terdiri atas empat bagian yang berisi 70 pasal. Karena tidak ditulis pada waktu yang bersamaan, antara pasal pada satu bagian dan bagian yang lain terdapat pengulangan dan penjelasan lebih lanjut terhadap poin yang sudah ada pada bagian yang lebih dahulu.
Tidak lama setelah bagian pertama disusun, piagam yang khusus mengatur hubungan antara umat Islam dan golongan Yahudi disusun pula dan menjadi bagian yang kedua. Pada bagian yang terdiri atas 25 pasal ini, Piagam Madinah mengatur hubungan antara umat Islam dan golongan Yahudi secara lebih teperinci. Hal ini dimaksudkan untuk menjaga stabilitas masyarakat menuju negara Madinah yang bersatu.
Pada bagian ini, disebutkan bahwa golongan Yahudi tertentu bersekutu dan bekerja sama dengan umat Islam dalam membela negara, berperang melawan musuh, dan menjaga keamanan dengan syarat mereka juga ikut andil dalam pembiayaan perang. Dijelaskan juga bahwa golongan Yahudi itu adalah bagian masyarakat Islam, tetapi mereka bebas menjalankan agama mereka.
Sebagaimana umat Islam, apabila di antara golongan Yahudi ini ada yang berbuat salah, yang bersangkutan secara individual akan dihukum dan warga Yahudi yang lain tidak boleh membelanya. Artinya, warga apa pun yang dinyatakan bersalah dan melanggar aturan tidak berhak dibela oleh agama yang menjadi keyakinan orang yang bersalah itu.
Dengan Piagam Madinah ini, persekutuan lama antara orang Yahudi dan kabilah Arab yang sudah masuk Islam dipandang tidak berlaku lagi sehingga kesalahan golongan Yahudi tidak ditanggung oleh sekutu lama mereka dari kabilah yang sudah masuk Islam.
Golongan Yahudi
Semua pemimpin kelompok pada masa itu menandatangani piagam ini, termasuk kelompok Yahudi dari golongan besar, seperti Bani Qainuqa, Bani Nadhir, dan Bani Quraizhah. Bahkan, Nabi SAW kemudian mengangkat seorang sekretaris dari kalangan Yahudi. Hal ini dimaksudkan untuk memudahkannya dalam pengiriman dan pembacaan surat yang berbahasa Ibrani dan Asiria.
Namun, golongan Yahudi ini tampaknya menerima piagam itu untuk alasan politik semata. Karena itulah, dalam perkembangan negara Madinah, golongan Yahudi ini sering melakukan pengkhianatan dan melakukan persekongkolan dengan musuh Islam.
Karena seringnya melakukan pengkhianatan, sekretaris yang berasal dari kalangan non-Muslim ini digantikan oleh Zaid bin Tsabit. Ketika golongan Yahudi yang berasal dari Bani Nadhir terusir dari Madinah, tidak ada lagi sekretaris Nabi SAW yang berasal dari golongan Yahudi.