Mengenai prinsip ketiga, bahawa penubuhan seorang Khalifah adalah wajib ke atas semua orang Islam, hadith berikut telah mengesahkannya. Muslim meriwayatkan daripada Nafi‘, bahawa dia berkata: ‘Abdullah bin ‘Umar berkata kepadaku: Aku mendengar Rasulullah ﷺ bersabda:

As for the third principle, that the establishment of one Khaleefah is an obligation on all Muslims, the following Hadith has confirmed this. Muslim narrated from Naf ’i that he said: ‘Abdullah Ibnu ‘Umar said to me: I heard the Messenger of Allah (pbuh) say:

“Sesiapa yang menarik tangannya daripada ketaatan kepada Allah, dia akan menemui Allah (SWT) pada Hari Kebangkitan tanpa mempunyai sebarang hujah untuk ditunjukkan bagi dirinya; dan sesiapa yang mati sedangkan tiada baiah di lehernya, maka dia mati dengan kematian zaman Jahiliyyah (kejahilan).” Dalam Hadis ini, Rasulullah ﷺ telah mewajibkan ke atas setiap Muslim untuk mempunyai baiah kepada seorang Khalifah, iaitu Bay’ah di lehernya, tetapi baginda ﷺ tidak mewajibkan ke atas setiap Muslim untuk memberikan baiah (Bay’ah) itu. Kewajipannya ialah adanya Bay’ah di leher setiap Muslim, iaitu kewujudan seorang Khalifah yang berhak menerima Bay’ah di leher setiap Muslim dengan kewujudannya. Kewujudan Khalifah itulah perkara yang memulakan Bay’ah di leher setiap Muslim, tanpa mengira sama ada Muslim tersebut telah benar-benar memberikan Bay’ah atau tidak. Adapun perpaduan Khilafah dan larangan mempunyai lebih daripada seorang Khalifah, ia adalah berdasarkan apa yang diriwayatkan oleh Muslim daripada Abu Sa’id Al-Khudri daripada Rasulullah ﷺ bahawa baginda bersabda:

“Whoever takes off his hand from obedience to Allah, he will meet Allah (swt) on the Resurrection Day without having any proof to show for himself; and who dies while there was no pledge of allegiance on his neck, he dies a death of the days of Jahiliyyah (ignorance).” In this Hadith, the Messenger of Allah (pbuh) has made it compulsory on every Muslim to have a pledge of allegiance, i.e. Bay’ah to a Khaleefah on his neck, but he (pbuh) did not make it compulsory for every Muslim to give the pledge (Bay’ah). For the obligation is the presence of a Bay’ah on every Muslim’s neck, i.e. the existence of a Khaleefah who is entitled to a Bay’ah on the neck of every Muslim by his existence. The existence of the Khaleefah is the matter which initiates the Bay’ah on every Muslim’s neck, regardless of whether the Muslim has effectively given the Bay’ah or not. As for the unity of the Khilafah and the prohibition of having more than one Khaleefah, this is due to what Muslim narrated from Abu Sa’id Al-Khudri from the Messenger of Allah (pbuh) that he said:

“Apabila sumpah Bay’ah telah diambil untuk dua Khulafaa’, bunuhlah yang terakhir daripada mereka”. Ini dengan jelas membuktikan bahawa haram bagi kaum Muslimin untuk mempunyai lebih daripada seorang Khaleefah.

“When an oath of Bay’ah has been taken for two Khulafaa’, kill the latter of them”. This clearly proves that it is forbidden for the Muslims to have more than one Khaleefah.