Setelah pembunuhan Utsman bin Affan, para sahabat Muhajirun dan Ansar berkumpul di sekitar Ali. Awalnya, Ali menolak untuk menerima jabatan tersebut, namun ketika beberapa sahabat Nabi ﷺ yang terkenal, selain penduduk Madinah, mendesaknya untuk menerima permintaan tersebut, dia akhirnya setuju. Sejumlah sahabat terkemuka lainnya memberikan bai'at kepadanya, sementara yang lain termasuk Muawiyah bin Sufyan memberontak terhadapnya.
Berikut Khutbah pertama Ali sebagai khalifah:
“Allah telah menurunkan Al-Qur’an sebagai petunjuk yang jelas mana yang baik dan mana yang buruk.
Ambillah yang baik dan dan tinggalkan yang buruk, laksanakan segala kewajiban kepada Allah yang akan mengantarkan kalian ke surga. Bagi kalian sudah jelas segala yang diharamkan oleh Allah, dan ini merupakan suatu kehormatan bagi setiap muslim.
Laksanakan perintah dengan ikhlas dan bersatulah. Seorang muslim adalah yang dapat menyelamatkan orang lain dengan lidah atau tangannya atas dasar kebenaran, dan tidak boleh mengganggu. Utamakan kepentingan umum.
Takutlah kalian kepada Allah mengenai hak-hak manusia dan negerinya. Sampai kepadanya soal sejengkal tanah dan soal binatang sekalipun kalian harus ikut bertanggung jawab. Taatlah kalian kepada Allah dan jangan melanggar perintah-Nya. Bila kalian melihat yang baik ambillah dan bila melihat yang buruk tinggalkanlah.”
Masa kepemimpinan Ali bin Abi Thalib sebagai Khalifah adalah selama 5 tahun. Selama kepemimpinannya, masalah internal lebih banyak dibandingkan masa-masa Khalifah selanjutnya. Hal ini merupakan ujian kepada Beliau dari Allah SWT yang dihadapi dengan sebaik dan semampu Beliau.
***
Ali bin Abu Thalib bukan hanya orang yang pertama-tama masuk Islam, namun juga merupakan seorang anak yang masih berumur 10 tahun yang sudah memutuskan masuk Islam. Di masa itu, tidak banyak anak-anak yang langsung memahami apa yang dibawa oleh Rasulullah SAW dan memutuskan masuk Islam.
Secara silsilah, Ali adalah sepupu dari Nabi Muhammad. Pada usia remaja setelah wahyu turun, Ali banyak belajar langsung dari Nabi SAW karena sebagai anak asuh, berkesempatan selalu dekat dengan Nabi hal ini berkelanjutan hingga dia menjadi menantu Nabi. Pernikahan ‘Ali dengan Fatimah az-Zahra menjadikannya sebagai menantu Nabi Muhammad.
Ali dilahirkan dari ibu yang bernama Fatimah binti Asad, di mana Asad merupakan anak dari Hasyim, sehingga menjadikan Ali, merupakan keturunan Hasyim dari sisi bapak dan ibu. Kelahiran Ali bin Abi Thalib banyak memberi hiburan bagi Nabi SAW karena dia tidak punya anak laki-laki.
Uzur dan faqir nya keluarga Abu Thalib memberi kesempatan bagi Nabi SAW bersama istrinya Khadijah untuk mengasuh Ali dan menjadikannya putra angkat. Hal ini sekaligus untuk membalas jasa kepada Abu Thalib yang telah mengasuh Nabi sejak dia kecil hingga dewasa, sehingga sedari kecil Ali sudah bersama dengan Muhammad.
Nama aslinya Assad bin Abu Thalib. Assad yang berarti Singa adalah harapan keluarga Abu Thalib untuk mempunyai penerus yang dapat menjadi tokoh pemberani dan disegani di antara kalangan Quraisy Mekkah. Setelah mengetahui anaknya yang baru lahir diberi nama Assad, Ayahnya memanggil dengan Ali yang berarti Tinggi (derajat di sisi Allah).
Ali memang dikenal sebagai seorang Shahabat Rasul SAW yang pemberani serta tangkas dalam bertempur. Salah satu contoh keberaniannya adalah pada saat menggantikan Rasulullah SAW tidur di rumahnya saat Beliau hendak dibunuh oleh kafir Quraisy. Saat itu Rasulullah SAW lolos dari upaya pembunuhan orang-orang Quraisy karena dikelabui, mengira bahwa Rasul masih tidur di rumah padahal sudah digantikan posisinya oleh Ali bin Abu Thalib.
Sedangkan ketangkasannya dalam bertempur dapat dilihat saat perang Badar. Dimana Ali termasuk yang paling banyak membunuh orang kafir. Pada waktu itu usianya masih 25 tahun. Selain itu, pada perang Khaibar melawan Yahudi, Ali memimpin pasukan umat muslim untuk menjebol benteng Khaibar di saat Shahabat senior lainnya tidak mampu.
Semasa hidupnya, Ali bin Abu Thalib merupakan seorang diantara Khulafa’ Rasyidin selain Abu Bakar, Umar bin Khattab dan Utsman bin Affan. Pada saat Rasulullah SAW memimpin negara, Ali bin Abu Thalib selalu dilibatkan dalam urusan pemerintahan salah satunya menjadi pengganti sementara dikala Rasulullah SAW memimpin pasukan ke luar.
Selanjutnya kepemimpinan diserahkan oleh kaum muslim kepada Abu Bakar berdasarkan prosesi pengangkatan yang ada. Setelah Abu Bakar wafat kemudian kepemimpinan digantikan oleh Umar bin Khattab. Setelah Umar, kemudian Utsman bin Affan menjadi Khalifah. Pada masa ini terjadi berbagai macam masalah yang membuat Utsman RA terbunuh.
Setelah Utsman bin Affan terbunuh, kaum muslim bersepakat bahwa pengganti yang paling pantas adalah Ali bin Abu Thalib. Di sinilah Ali bin Abu Thalib diangkat menjadi Khalifah selanjutnya meskipun awalnya menolak.
