Hz. Ömer, İslam Devleti’nin ikinci halifesi olarak devlette büyük bir kurumsallaşma başlattı. Çeşitli divanlar, eyaletler, kurumlar onun devrinde kuruldu.
Hz. Muhammed'in halifesi olarak birçok yenilik yaptı.
Irak ve Suriye’de çeşitli fetihler yaşandı. Bizans Suriye’den atıldı, Sasaniler yıkılış sürecine girdi.
Hz. Ömer’in Sasanilere karşı zaferleri Medine’de yaşayan Sasanili kölelerden biri olan Ebu Lülü’yü rahatsız ediyordu. Muğire bin Şu’be’nin kölesi olan bu kişi namaz kıldığı esnada Hz. Ömer’i hançerledi. Kaçarken de birkaç Müslüman’ı şehit etti. En sonunda ise öldürüldü.
Hz. Ömer yaralanıp evine kaldırıldığı sırada İslam toplumunun başsız kalmaması ve bölünmemesi için bir vasiyette bulundu.
Onun vasiyetine göre cennetle müjdelenen sahabelerin olduğu bir heyete yeni halifeyi belirleme görevini verdi. Bu heyette Hz. Osman, Hz. Ali, Abdurrahman bin Avf, Zübeyr bin Avvam, Sa’d bin Ebi Vakkas, Talha bin Ubeydullah vardı. Halife olmaması kaydıyla oğlu Abdullah’ı da heyete dahil etti.
Bu süreçte Talha bin Ubeydullah Medine dışındaydı onu sadece üç gün beklemelerini ve bu üç gün boyunca hepsinin aynı evde olmasını tartışmayı bitirmeden, yeni halifeyi belirlemeden çıkmamaları söyledi.
Halifeyi Kur'an-ı Kerim'in ve sünnetlerin gösterdiği yol ile seçmelerini salık verdi.
Talha bin Ubeydullah hariç olan diğer isimler bir evde buluştular ve tartışmayı başlattılar. Önce Abdurrahman bin Avf daha sonra Sa’d bin Ebu Vakkas ve Zübeyr bin Avvam halife adayı olmayacağını açıkladı.
Aday olarak sadece Hz. Osman ve Hz. Ali kaldı. Heyet başkanı olarak belirlenen Abdurrahman bin Avf önce odadakilerin sonra Medinelilerin daha sonra civardaki kişilerin fikirlerini aldı.
Üç gün boyunca yapılan yoğun tartışmaların sonucunda bin Avf, Hz. Osman’ı İslam Devleti’nin yeni halifesi olarak ilan etti.