İlçenin ne zaman ve kimler tarafından kurulduğuna dair elde kesin belgeler bulunmamaktadır.. İlçe çevresinde bulunan tarihi kalıntılara bakılarak yapılan incelemeler ve elde edilen tespitlere göre: Gülşehir'de ilk oturan kavim Hititler olup, kesin tarihi bilinmemektedir. İlçenin halen mevcut Kepez tepesinde bulunan mağaralar Hititler tarafından oyulmuş, yerleşim merkezi olarak kullanılmıştır.(M, 0. 2000-1000) Hititler'den sonra       M.Ö. 900 - 800 yıllarında Frigyalılar Kapadokya'ya saldırarak bölgeyi egemenlikleri altına almışlardır

       Gülşehir de (Arapsun-Arabusun-Yarapusan-Zorapassos)  bu saldırıdan etkilenmiştir. M.Ö. 9. yüzyılın ortalarında kurulmuş olan Yabal Krallığı bu egemenliğe de son vererek, Gülşehir de dahil Kapadokya'yı hakimiyeti altına almıştır. Eski adı Sivasa olan şimdiki Gökçetoprak köyündeki Hiyeroglif kaya yazılan ve eski ismi Göstesin olan şimdiki Ovaören Kasabası'ndaki yeraltı şehirleri, heykel, kaya yazıları bunları ispatlamaktadır.  Ayrıca Gülşehir (Arabsun) yakınında bulunan Büyükkale, Açıksaray, Kızılkatma, Beyyurdu, Döllük, Ozankaya, Araplı Hüyüğü gibi yerlerde bulunan eserler ilçenin 9. yüzyılda önemli bir merkez olduğunu  göstermektedir.M.Ö, 620 yılında Lidyalılar bölgede bulunan diğer devletlerin egemenliklerine son vermişlerdir.

              M.Ö, 546 da Persler (İranlılar) bölgeye hakim olmuşlardır, M.Ö, 360 yıllarında Makedonya Kralı Büyük İskender, Persler'in egemenliklerine son    vererek Kapadokya'yı egemenliği altına almıştır. M.Ö, 225-118 yıllarında Roma İmparatorluğu Makedonya Krallığı'nı yenmiş, bütün Anadolu'ya hakim olmuştur Romalılar'ın bölgede uygarlık yönünden pek faaliyetleri olmamıştır. İmparatorluğun ikiye ayrılmasından sonra Gülşehir (Arabsun) ve Kapadokya Bizanslılar'ın ( Doğu Roma imparatorluğu ) egemenliği altına girmiştir. Bizanslılar'ın hristiyanlığı kabul ettikten sonra yaptıkları eserlere bakarak Gülşehir'in isminin o zamanlar Zoropassos olduğu tespit edilmiştir.

                M.S, I. ve III. yüzyıllarda, Filistin'den kaçan ilk hristiyanlar, Bizanslılar'ın da hristiyan olmalarına dayanarak (Batı Roma İmparatorluğu'nun zulmünden saklanmak amacıyla) Kapadokya'ya gelmişlerdir. Filistinliler, yapısal olarak oymaya ve iskan edinilmeye uygun olan kayalara kiliseler, evler, manastırlar yapmışlardır. Örnek olarak Açıksaray, Büyükkale, Gümüşkent Yeraltı Şehri, Ozankaya, Kızılkatma gibi yerleri gösterebiliriz. Tüm bunlar yöremizdeki ilk hristiyan eserleridir. Bu dönemde Gülşehir, Kapadokya hristiyan merkezi haline gelmiş; hristiyanlığı öğrenmek isteyenler Açıksaray'daki manastırlarda papaz, rahiplerce yetiştirilip başka yerlerde din görevlisi olarak çalışmışlardır. Gülşehir ( Zorapassos ) M.S, 10. yüzyılda dini merkez olma özelliğini kaybetmiş; Göreme; Gülşehir'den boşalan bu dini merkez olma özelliğini doldurarak onun yerini almıştır. 1071 yılındaki "Malazgirt Zaferi'nden"   sonra Kapadokya Selçuklu Türkleri'nin hakimiyeti altına girmiştir. Selçuklular devrinde Zoropassos ismi Arabson haline dönüşmüş, daha sonra da Arabsun denilmiştir.

                XIV asrın tamamıyla XV, asrın ilk yarısında Konya, Kayseri, Niğde, Sivas, Kastamonu, Sinop, Ankara, Kütahya, Birgi, Tire, Peçin (Milas), Bursa, İznik, Ladik (Denizli), Gülşehir (Arabsun), Kırşehir, Amasya gibi başlıca Anadolu şehirleri birer ilim merkezi olmuşlardır. Gülşehir 'li Şeyh Ahmet Gülşehir'i bu dönemde yetişmiş ozanlardandır. 1212 tarihinde Gülşehir'in Mengüçoğulları hakimiyeti altında olduğu fakat bu tarihte Anadolu Selçuklu Sultanı Alaattin Keykubat'ın Mengüçoğulları'nın son temsilcisi olan Muzafferiddün Mehmet Berham'ı yenerek Gülşehir'i kendi ülkesine kattığı kaynaklarda belirtilmiştir. XIV, ve XV asırlarda Gülşehir ilim merkezi olmuş, yine o asırlarda yetiştirmiş olduğu şahsiyetlerle fikir cereyanlarına katkıda bulunmuştur,

               Gülşehir'li ŞeyhAhmet tarafından 1317'de yazılmış olan Felekname ve kendi Şeyhi Ahi Evren'in menakıbine dair kaleme aldığı manzum (Keramatı Ahi Evren), Mevlana Celaleddin 'i Rumi'den mülhem olarak ilavelerle süslenen Feridüddin Attar'ın Mantıku't-tayr tercemesinden Gülşehri'nin Fıkıh'tan manzum (Kuduri) isimli bir eserinin daha olduğunu anlıyoruz Zoropassos, Yarabistan, Arapsun gibi adlarla çağlar geçirmiş olan Gülşehir, XV, yüzyıldan sonra Osmanlılar zamanında küçük bir köy olarak kalmıştır. Padişah I. Abdulhamit zamanında Sadrazamlığa kadar yükselen Karavezir Silahtar Seyyid Mehmet Paşa 1777 yılında doğum yeri olan Gülşehir'i kalkındırmak amacıyla; altı çeşme, bir cami, bir medrese, bir han, bir hamam ve sübyan mektebi ( ilkokul ) yaptırarak önemli bir külliye bırakmıştır.

                 O zamana kadar küçük bir köy olan Gülşehir'e bunlar    yapıldıktan sonra devlete baş vurup, Ürgüp ve Nevşehir'den bağlılığını kesip, başlı başına bir kaza olmasını talep etmiş; bu talep üzerine incelemeye gelen bir heyet (1777) incelemeyi yerinde bularak kaza olmasına karar vermiştir Cumhuriyet devrinde Niğde il olunca, Gülşehir Niğde'nin bir ilçesi oldu, İlk olarak Karavezir Seyyid Mehmet Paşa zamanında Gülşehir adı konulan ilçemiz daha sonraları yeniden Arapsun olarak anılmaya başlanmış ve son olarak 1948 yılında alınan Bakanlar Kurulu kararıyla bu karmaşaya son verilerek Gülşehir ismi resmiyet kazanmış ve herkes tarafından benimsenerek kullanılmaya başlanmıştır.