Şehrin tespit olunan ilk sakinleri Etilerdir. Etiler M.Ö. 1341 tarihinde Kaşgarlar'la yaptıkları savaşlarda sınırlarını Erzurum'a kadar genişletmişler ve bu zaman içerisinde Şebinkarahisar'ı da alarak sınırlarına katmışlardır. Şehir Etiler'den sonra Amazonlar daha sonrada Kimriler'in eline geçmiş, M.Ö. 585 yıllarında Medler'in himayesine girmiştir. M.Ö. 65 yıllarında Romalılar'ın egemenliğine giren Şebinkarahisar M.S. 391'de Orta Asya'dan Peçenek ve Koman Türkleri tarafından istila edilmiş ve 60 yıl kadar bu Türklerin himayesinde kalmıştır. Zamanla bu Türkler Hıristiyan Misyonerleri tarafından Hıristiyanlaştırılmışlardır. Kayadibi Meryem Ana Manastırı diye adlandırılan kilise Hıristiyanlaştırılan bu Türkler tarafından inşa edilmiştir. Bu tarihten itibaren şehir Romalılar ve Türkler arasında devamlı el değiştirmiştir. Şehrin ilk kuruluş yeri olan İsola (Güneygören) köyüdür. Romalılara kadar bölgenin en önemli yerleşim yeri olan İsola şehri Romalılardan itibaren önemini gittikçe kaybetmeye başlamıştır. Şebinkarahisar, Türklerin eline geçtiği 1075 tarihinden 1473 yılına kadar 410 yıllık müddet zarfında beylik şeklinde idare edilmiştir. Şebinkarahisar Osmanlı İmparatorluğu topraklarına katıldığı 1478 yılından 1515 yılına kadar Amasya vilayetine bağlı kalmıştır. 1515 yılında Trabzon, Canik ve Şebinkarahisar Livaları birleştirilerek Erzincan'a bağlanmıştır. 1538 yılına kadar Erzincan vilayetine bağlı kalan Şebinkarahisar, daha sonra Erzincan'dan alınarak tekrar Amasya vilayetine bağlanmıştır. 1553 tarihine kadar Amasya vilayetine bağlı kalan Şebinkarahisar, 1553 tarihinde Amasya vilayetinden alınarak Erzurum'a bağlanmıştır. 1805 yılına kadar iki buçuk asır Erzurum'a bağlı kalan ilçe , 1865 tarihinde Erzurum'dan alınarak Trabzon'a bağlanmıştır. Aynı tarihte Giresun, Ordu ve Gölköy'de Şebinkarahisar Sancağına bağlanmıştır. Yeniden yapılan düzenlemede 1865 yılında Şebinkarahisar, Trabzon'dan alınarak Amasya ve Tokat Sancağı ile birlikte Sivas'a bağlanmıştır. Şebinkarahisar Vilayet haline getirildiği 1923 yılına kadar Sivas'a bağlı kalmıştır. Şebinkarahisar, tarihi içinde pek çok yangın atlatmıştır. 1.Dünya Savaşı yılları sırasında yerli Rum ve Ermenilerin ihanetleri ile isyanlar çıkmış, 1915 Ermeni İsyanı ile şehir yıkılıp yakılmıştır. Kurtuluş Savaşının kazanılmasından sonra 1923 yılında livaların il yapılmasına karar verilmiş, bu karar neticesinde o günlerde liva olan Şebinkarahisar'da il yapılmış ancak 1933 yılında İlçe durumuna getirilerek Giresun iline bağlanmıştır. XIV. Yüzyılda Osmanlı İmparatorluğu topraklarına katılan Şebinkarahisar zaman zaman isyana tevessül eden asilerin ellerine geçmiş ancak devlet güçleri her defasında şehri asilerin elinden kurtarmıştır. 1415 yılında meydana gelen büyük bir deprem çok sayıda can ve mal kaybına sebep olmuştur. Şebinkarahisar'da çeşitli dinlere mensup vatandaşlar yüzyıllarca beraber, kardeşçe yaşamışlardır. Ancak, bilhassa dış güçlerin etkisi ile etnik guruplar zaman zaman baş kaldırmışlar ve müessif hadiseler meydana gelmiştir. 1915 yılında ayaklanan Ermeniler kaleyi ele geçirmişler ve 20 gün boyunca devam eden çatışmalardan sonra ayaklanma bastırılmıştır. Ayaklanma süresince 403 Türk ölmüş, 176'sı da yaralanmıştır. Kurtuluş Savaşında Şebinkarahisar'lıların üstün gayret ve fedakarlıkları her türlü takdirin üstündedir. 1919 yılında Erzurum'da toplanan kongreye Şebinkarahisar'ı temsilen Dr. Cemil Şencan delege olarak katılmıştır. 1920 yılında ilçede Anadolu Müdafaa-i Hukuk Cemiyeti Şurası kurulmuştur. Cemiyet bu dönemde dış tahriklerle oldukça şımarık Ermeni ve Rum çetelerinin mezalimlerinin büyümesine engel olmuştur. Tarihinde bir çok afet yaşamıştır. 28 Aralık 1939 günü saat gece 01.30’da Erzincan depremi diye anılan deprem meydana gelmiştir. Deprem, Şebinkarahisar’da geniş şekilde hissedilmiş, evlerde büyük tahribata sebep olmuştur. 50 santimetre kar kalınlığının olduğu ve kışın en şiddetli günlerinin yaşandığı gecelerde depremin meydana gelişi can ve mal kaybının büyük olmasına sebep olmuştur. Telgraf ve telefon irtibatının kesilmesi, kışın şiddeti ile yolların geçit vermemesi, giyecek - yiyecek yardımının 25 gün sonra ilçeye ulaşmasına sebep olmuş, yaralılara ilaç bulunamamış büyük yiyecek sıkıntısı çekilmiştir. Deprem 1451 kişinin hayatına mal olmuştur. 7-8 Ağustos 1961 tarihinde meydana gelen yangın, tüm çabalara rağmen söndürülememiş ve gittikçe büyüyerek 288 dükkan ve 5 evin tamamen yanmasına sebebiyet vermiştir.