Erzurum Kalesi'nin geçmişi yaklaşık olarak 2 bin 500 yıl öncesine, bölgeye hâkim olan Urartulara kadar uzanmaktadır. İlk inşa tarihi bilinmemekle birlikte kalenin MS 5. yüzyılda yapıldığı düşünülmektedir.
Erzurum Kalesi, biri şehrin güvenliğini sağlayan muhafız askerlerin bulunduğu iç kale, diğeri ise halkın ikamet ettiği cadde, sokak ve mahalleleri içine alan dış kaleden oluşmaktadır.
Bugün varlığını koruyan iç kale, 415 yılında Bizans İmparatoru Theodosius tarafından yaptırılmıştır. İç kalenin avlusunda tuğladan bir hamam ve oda halinde mekânlar yer almaktadır. Osmanlı İmparatorluğu döneminde iç kalenin kuzey duvarı bitişiğine İç Kale Mescidi yapılmıştır. Kırklar Türbesi, Ebu İshak-ı Kâzerûnî Türbesi ve Ali Ağa Çeşmesi de bu yapılara eklenmiştir.
Günümüzde dış kalenin surları büyük ölçüde yıkılmış olup yalnızca dört yöne açılan kapıların isimleri bilinmektedir. Bunlar Tebriz Kapısı, Erzincan Kapısı, Gürcü Kapısı ile sonradan açılan İstanbul Kapısı ve Yeni Kapı'dır.
Çeşitli dönemlerde onarım geçiren kale, son olarak 16. yüzyılda Kanuni Sultan Süleyman ve 19. yüzyılda II. Mahmut dönemlerinde iki defa onarılmıştır.
