Erzincan’da 23 Nisan 1920’de kurulan ilk kütüphane uzun yıllar “Gerek Gerek Camii” külliyesinde hizmet vermiştir.
1939 Erzincan depreminde tamamen tahrip olan binadaki kitaplar İskenderun kütüphanesine nakledilmiştir. 1955 yılında tekrar getirilmiştir.
1975 yılında Kültür ve Turizm Bakanlığı tarafından satın alınan bugünkü binasına taşınmıştır.
2010 yılında Erzincan Valisi Sayın Abdülkadir DEMİR’in girişimi ile bina iç ve dış büyük onarımdan geçirilerek bugünkü modern görünümüne kavuşmuştur.
02/07/2010 tarihinde Ulaştırma Bakanı Sayın Binali YILDIRIM tarafından hizmete açılmıştır.
