Halil İbrahim İnalcık 7 Eylül 1916'da İstanbul'da dünyaya geldi.
Babası Kırım göçmenlerinden Seyit Osman Nuri Bey, annesi Ayşe Bahriye Hanım'dır. Ailesi, 1924 yılında Ankara'ya yerleşti.
1923-1930 arasında Ankara Gazi Mektebi'nde, bir yıl Sivas Muallim Mektebi’ne devam etti. Orta tahsilini 1931’de Ankara’da Gazi Muallim Mektebi'nde tamamladıktan sonra Balıkesir Necati Bey Muallim Mektebi'nde lise tahsiline devam etti.
1936 yılında Ankara Üniversitesi Dil ve Tarih-Coğrafya Fakültesi Yeni Çağ Tarihi bölümünde yüksek öğrenimine başladı. 1940 yılında mezun olduktan sonra fakültede asistan olarak kaldı.
Uzun yıllar aynı fakültede Osmanlı ve Avrupa tarihi üzerine dersler veren İnalcık, 1947'de Türk Tarih Kurumu (TTK) üyeliğine seçildi.
1949'da İngiltere'ye giderek British Museum'da Türkçe yazmalar üzerinde çalıştı ve Calendar of State Papers serisinde Osmanlı tarihine ait kayıtları topladı. Public Record Office'te Osmanlı İmparatorluğu ile ilgili kaynak taraması yaptı. 1951 yılında Türkiye'ye döndü.
1951'in yazında Bursa Şer'iyye Sicilleri üzerine çalışmaya başladı. Girişimleri sonucu siciller, Topkapı Sarayı'ndaki atölyede ciltlenip temizlenerek tekrar Bursa’ya gönderildi. İnalcık, Haziran 1952'de Viyana Bozgun Yıllarında Osmanlı-Kırım Hanlığı İşbirliği teziyle profesörlük unvanı aldı
Columbia, Princeton, Pennsylvania, Harvard Üniversitelerinde ziyaretçi profesör olarak dersler veren İnalcık, 1972'de Ankara Üniversitesinden emekli olarak Chicago Üniversitesi'nde Osmanlı Tarihi Kürsüsünü kurdu. 1973 yılında kitabı The Ottoman Empire The Classical Age 1300-1600 yayımlandı
1986 yılında Chicago Üniversitesi'nden de emekliye ayrıldı ve 1993 yılında Bilkent Üniversitesi'nde Tarih Bölümü'nü kurdu 23 yıl boyunca Bilkent Üniversitesi Osmanlı Tarihi Bölümü'nde yüksek lisans ve doktora öğrencilerine seminer dersi verdi.
2003 yılında Bilkent Üniversitesi'nde Halil İnalcık Center for Ottoman Studies adlı bir merkez kurdu. Halil İnalcık, yıllardan beri çeşitli arşivlerden topladığı belge ve defterlerin kopyalarını, yarım kalmış araştırma metinlerini, 1000'den fazla ayrıbasımı ve diğer materyalleri bu merkeze bağışlamıştır
İnalcık, çok iyi düzeyde Osmanlı Türkçesi, iyi düzeyde; İngilizce, Fransızca, Almanca, orta düzeyde de; Arapça, Farsça ve İtalyanca biliyordu.Dünyanın çeşitli üniversitelerinden çok sayıda fahri doktora tevcih edilen İnalcık, 20. yüzyıl sona ererken Cambridge'de bulunan Uluslararası Biyografi Merkezi tarafından dünyada sosyal bilimler alanında sayılı 2000 bilim adamı arasında gösterilmiştir.
Halil İnalcık çoklu organ yetmezliği nedeniyle 25 Temmuz 2016 tarihinde saat 19.10'da Ankara'da tedavi gördüğü hastanede 99 yaşında hayatını kaybetti.
Halil İnalcık'ın tez danışmanlığını yürüttüğü öğrencisi ünlü Tarihçi - Yazar Prof. Dr. İlber Ortaylı'ydı.