Kuruluş tarihi ve adının nereden geldiği hakkında çeşitli söylentiler vardır. İslam inanışına göre Tarsus, Ademoğlu Şit Peygamber tarafından kurulmuştur. Diğer taraftan, Tarsus adının Kilikya'nın en eski ilahı olarak tanınan Tarhon (Tarkon) isminin zamanla değişikliğe uğramasından geldiği söylenir. Tarsus'un ilk isme III. Ramses zamanında hiyeroglif yazı ile yazılmıştır. Bu tarihi şehirden Alexander ordusuyla geçtiği sırada Tarsus askeri yönden önemli bir gün yaşamıştır. Mısır Kraliçesi Kleopatra, Roma İmparatoru Antonius, Pers Hükümdarları Kurus, Dara, Makedonya İskender, Tarsus'u ziyaret etmişler.
Peygamberlerden Şit, Danyal Tarsus' ta yaşamıştır. Hıristiyanların en önemli havarilerinden olan St. Paulus'un doğduğu yer ve bir hac kenti olması da önemli yere sahiptir. Filozoflardan Lokman Hekim, Aristo, Nestor, seyyahlardan, Strabon, Diogen, Xenephon ve İslam meşhurlarından Bilal Habeşi Tarsus'a gelmişlerdir. Tarsus' da, İslam ve Hıristiyan din adamları yaşadığından ve bunlara ait yapılan yapıtlar bulunduğundan İslam ve Hıristiyan alemlerince kutsal sayılır. Tarsus deniz ve karayolları ile büyük bir ticaret ve kültür merkezi oldu. Böylece bütün Akdeniz ülkelerinde büyük gemilerle Tarsus'a ticari kazanç ve yeni fikirlerle dolu filozoflar geldi. Tarsus ticaret merkezi olması yanında, kültür ve üniversiteler şehri de olmuştur. Gözlükule kazılarına göre Tarsus' da ilk uygarlık Etiler ile başlamıştır. Hititler ile Asurlular arasında çıkan savaşta Hititleri yenerek Ovalık Kilikya'yı merkez yapmışlardır. Tarsus M.Ö. IV. Yüzyılda Persler, M.Ö. 333 yılında Makedonyalıların (Büyük İskender)'in hakimiyetine girmiştir. İskender'in ölümünden sonra Tarsus ve tüm Kilikya Selefkosların eline geçmiştir. M.Ö. 66 yılında Kilikya, bir Roma vilayeti olunca Tarsus Kilikya'nın Merkezi olmuştur. Tarsus, Abbasiler ve Emeviler döneminde Bizanslılar ile Araplar arasında sürekli el değiştirmiştir. 830 yılında Halife Memun Tarsus'u fethetmiştir. Tarsus 965 yılında Bizanslıların eline geçince uzun süre Bizanslılarda kalmıştır. 1802 yılında Selçukluların aldığı Tarsus, 1097 yılında Kudüs'e yürüyen Haçlı ordularınca işgal edildi. 1378 yılında Ramazanoğullarının hakimiyetine girdi.
Mersin ve Tarsus, Osmanlı yönetimine daha sonra geçmiştir. Yöre, 1485-1490 Osmanlı-Memluk Savaşları sırasında birkaç kez el değiştirdikten sonra, 1490 yılında Osmanlıların yenilmesiyle Memlukların egemenliğinde kaldı. Daha sonra 1516 yılında Yavuz Sultan Selim'in Memlukların üzerine düzenlediği büyük sefer sırasında Osmanlı yönetimine girdi. 1839 yılında yeniden Osmanlı topraklarına katılan Tarsus, 1888' de Mersin'in İlçesi oldu. I. Dünya savaşında Fransızların işgaline uğrayan Tarsus, 27 Aralık 1921 tarihinde işgalden kurtulmuştur. Tarsus Mersin İli'nin doğusunda yer alır. İlçenin doğusunda Adana, kuzeyinde Niğde, batısında Mersin, güneyinde de Akdeniz yer alır. Berdan Nehrinin Alivyonlu Ovasında kurulmuştur. İlçenin güney kısımları ovalık, kuzeyi ise sarp Toros dağlarından oluşur. İlçenin kıyılarında Akdeniz İklimi, kuzeye çıkıldıkça karasal iklim karakteri gösterir. Bolkar dağlarının güneydoğu yamaçlarından başlayan Tarsus Çayı Vadisi, çok dar ve diktir. Daha sonra doğudan güneye bir yay çizer. Tarsus Çayı Vadisi, kıyı kuşağına inene dek fazla genişlemez.
Kıyıya yakın kesimlerde vadi tabanı birden genişleyerek Seyhan Irmağının vadi tabanı ile birleşir. Bu geniş düzlükler üzerinde Tarsus Berdan Ovaları yer alır. 85.000 hektar alanı kapsayan Tarsus Ovası kıyıdan kumu setleri ile ayrılmış durumdadır. 20112 yılı sonu itibariye ilçe merkezi nüfusu 245.671, ilçe geneli nüfusu ise 318.615 kişidir.