Menjelang wafat, Umar bin Khattab berpesan. Selama tiga hari, imam masjid hendaknya diserahkan pada Suhaib Al-Rumi. Namun pada hari keempat hendaknya telah dipilih seorang pemimpin penggantinya. Umar memberikan enam nama. Mereka adalah Ali bin Abu Thalib, Utsman bin Affan, Zubair bin Awwam, Saad bin Abi Waqas, Abdurrahman bin Auff dan Thalhah anak Ubaidillah.
Keenam orang itu berkumpul. Abdurrahman bin Auff memulai pembicaraan dengan mengatakan siapa dia antara mereka yang bersedia mengundurkan diri. Ia lalu menyatakan dirinya mundur dari pencalonan. Tiga orang lainnya menyusul. Tinggallah Utsman dan Ali. Abdurrahman ditunjuk menjadi penentu. Ia lalu menemui banyak orang meminta pendapat mereka. Namun pendapat masyarakat pun terbelah.
Imar anak Yasir mengusulkan Ali. Begitu pula Mikdad. Sedangkan Abdullah anak Abu Sarah berkampanye keras buat Utsman. Abdullah dulu masuk Islam, lalu balik menjadi kafir kembali sehingga dijatuhi hukuman mati oleh Rasul. Atas jaminan Utsman hukuman tersebut tidak dilaksanakan. Abdullah dan Utsman adalah "saudara susu".
Konon, sebagian besar warga memang cenderung memilih Utsman. Saat itu, kehidupan ekonomi Madinah sangat baik. Perilaku masyarakat pun bergeser. Mereka mulai enggan pada tokoh yang Abdurrahman -yang juga sangat kaya-- pun memutuskan Ustman sebagai khalifah. Ali sempat protes. Abdurrahman adalah ipar Ustman. Mereka sama-sama keluarga Umayah. Sedangkan Ali, sebagaimana Muhammad, adalah keluarga Hasyim. Sejak lama kedua keluarga itu bersaing. Namun Abdurrahman meyakinkan Ali bahwa keputusannya adalah murni dari nurani. Ali kemudian menerima keputusan itu.
Maka jadilah Ustman khalifah tertua. Pada saat diangkat, ia telah berusia 70 tahun. Ia
lahir di Thalif pada 576 Masehi atau enam tahun lebih muda ketimbang Muhammad. Atas ajakan Abu Bakar, Ustman masuk Islam. Rasulullah sangat menyayangi Ustman sehingga ia dinikahkan dengan Ruqaya, putri Muhammad. Setelah Ruqayah meninggal, Muhammad menikahkan kembali Ustman dengan putri lainnya, Ummu Khulthum.
Masyarakat mengenal Ustman sebagai dermawan. Dalam ekspedisi Tabuk yang dipimpin oleh Rasul, Ustman menyerahkan 950 ekor unta, 50 kuda dan uang tunai 1000 dinar. Artinya, sepertiga dari biaya ekspedisi itu ia tanggung seorang diri. Pada masa pemerintahan Abu Bakar, Ustman juga pernah memberikan gandum yang diangkut dengan 1000 unta untuk membantu kaum miskin yang menderita di musim kering itu.
Di masanya, kekuatan Islam melebarkan ekspansi. Untuk pertama kalinya, Islam mempunyai armada laut yang tangguh. Muawiyah bin Abu Sofyan yang menguasai wilayah Syria, Palestina dan Libanon membangun armada itu. Sekitar 1.700 kapal dipakainya untuk mengembangkan wilayah ke pulau-pulau di Laut Tengah. Siprus, Pulau Rodhes digempur. Konstantinopel pun sempat dikepung.
Namun, Ustman mempunyai kekurangan yang serius. Ia terlalu banyak mengangkat keluarganya menjadi pejabat pemerintah. Posisi-posisi penting diserahkannya pada keluarga Umayah. Yang paling kontroversial adalah pengangkatan Marwan bin Hakam sebagai sekretaris negara. Banyak yang curiga, Marwan-lah yang sebenarnya memegang kendali kekuasaan di masa Ustman.
Di masa itu, posisi Muawiyah anak Abu Sofyan mulai menjulang menyingkirkan nama besar seperti Khalid bin Walid. Amr bin Ash yang sukses menjadi Gubernur Mesir, diberhentikan diganti dengan Abdullah bin Abu Sarah -keluarga yang paling aktif berkampanye untuk Ustman dulu. Usman minta bantuan Amr kembali begitu Abdullah menghadapi kesulitan. Setelah itu, ia mencopot lagi Amr dan memberikan kembali kursi pada Abdullah.
Sebagai Gubernur Irak, Azerbaijan dan Armenia, Ustman mengangkat saudaranya seibu, Walid bin Ukbah menggantikan tokoh besar Saad bin Abi Waqas. Namun Walid tak mampu menjalankan pemerintahan secara baik. Ketidakpuasan menjalar ke seluruh masyarakat. Bersamaan dengan itu, muncul pula tokoh Abdullah bin Sabak. Dulu ia seorang Yahudi, dan kini menjadi seorang muslim yang santun dan saleh. Ia memperoleh simpati dari banyak orang.
Abdullah berpendapat bahwa yang paling berhak menjadi pengganti Muhammd adalah Ali. Ia juga menyebut bakal adanya Imam Mahdi yang akan muncul menyelamatkan umat di masa mendatang -sebuah konsep mirip kebangkitan Nabi Isa yang dianut orang-orang Nasrani. Segera konsep itu diterima masyarakat di wilayah bekas kekuasaan Persia, di Iran dan Irak. Pengaruh Abdullah bin Sabak meluas. Ustman gagal mengatasi masalah ini secara bijak. Abdullah bin Sabak diusir ke Mesir. Abu Dzar Al-Ghiffari, tokoh yang sangat saleh dan dekat dengan Abdullah, diasingkan di luar kota Madinah sampai meninggal.
Beberapa tokoh mendesak Ustman untuk mundur. Namun Ustman menolak. Ali mengingatkan Ustman untuk kembali ke garis Abu Bakar dan Umar. Ustman merasa tidak ada yang keliru dalam langkahnya. Malah Marwan berdiri dan berseru siap mempertahankan kekhalifahan itu dengan pedang. Situasai tambah panas. Pada bulan Zulkaedah 35 Hijriah atau 656 Masehi, 500 pasukan dari Mesir, 500 pasukan dari Basrah dan 500 pasukan dari Kufah bergerak. Mereka berdalih hendak menunaikan ibadah haji, namun ternyata mengepung Madinah.
Ketiganya bersatu mendesak Ustman yang ketika itu telah berusia 82 tahun untuk mundur. Dari Mesir mencalonkan Ali, dari Basrah mendukung Thalhah dan dari Kufah memilih Zubair untuk menjadi khalifah pengganti. Ketiganya menolak, dan malah melindungi Ustman dan membujuk para prajurit tersebut untuk pulang. Namun mereka menolak dan malah mengepung Madinah selama 40 hari. Suatu malam mereka malah masuk untuk menguasai Madinah. Ustman yang berkhutbah mengecam tindakan mereka, dilempari hingga pingsan.
Ustman membujuk Ali agar meyakinkan para pemberontak. Ali melakukannya asal Ustman tak lagi menuruti kata-kata Marwan. Ustman bersedia. Atas saran Ali, para pemberontak itu pulang. Namun tiba-tiba Ustman, atas saran Marwan, menjabut janjinya itu. Massa marah. Pemberontak balik ke Madinah. M Muhammad anak Abu Bakar siap mengayunkan pedang. Namun tak jadi melakukannya setelah ditegur Ustman. Al Ghafiki menghantamkan besi ke kepala Ustman, sebelum Sudan anak Hamran menusukkan pedang. Pada tanggal 8 Zulhijah 35 Hijriah, Ustman menghembuskan nafas terakhirnya sambil memeluk Quran yang dibacanya. Sejak itu, kekuasaan Islam semakin sering diwarnai oleh tetesan darah.
Ustman juga membuat langkah penting bagi umat. Ia memperlebar bangunan Masjid Nabawi di Madinah dan Masjid Al-Haram di Mekah. Ia juga menyelesaikan pengumpulan naskah Quran yang telah dirintis oleh kedua pendahulunya. Ia menunjuk empat pencatat Quran, Zaid bin Tsabit,Abdullah bin Zubair, Said bin Ash, dan Abdurrahman bin Harits, untuk memimpin sekelompok juru tulis. Kertas didatangkan dari Mesir dan Syria. Tujuh Quran ditulisnya, Masing-masing dikirim ke Mekah, Damaskus, San'a, Bahrain, Basrah, Kufah dan Madinah.