Sarıkamış adının nereden geldiğine dair çeşitli rivayetler vardır. Bunlardan en yaygın olanlarından üçü şunlardır:
- Türk Beylerinden biri bu toprakları bir sarık ve biraz yiyecek karşılığında aldığından bölgenin adı Sarıkamış olarak söylenmiştir.
- İkinci rivayete göre ise, bölgede bulunan Bebek Gölü'nde (kurumuş bir göl) yetişen kamışların sarı olmasından gelmiştir.
- Üçüncü rivayete göre ise, Hazar Denizi ile Aral Gölü arasındaki Sarıkamış çukuru bölgesinden bir Türk boyunun bu bölgeye yerleşmesinden gelmektedir.
Sarıkamış'ın tarihi milattan önceki devirlere kadar uzanmaktadır. 11. Yüzyılda Sultan Alparslan tarafından Bizans hakimiyetinden alınarak Selçuklu hakimiyetine, 1534 Yılında da Kanuni Sultan Süleyman döneminde Osmanlı hakimiyetine giren ilçe bu dönemde Kars Eyaletine bağlı bir Liva idi. 1828 ve 1855 yıllarında iki defa Rus işgaline uğrar. Ancak 1829 Edirne ve 1856 Paris Antlaşmaları ile yeniden Osmanlı hakimiyetine girer. 1877-1878 Osmanlı-Rus Savaşı sonunda 40 yıl süre ile Rus işgali altında kalan Sarıkamış, 29 Eylül 1920'de Rus işgalinden kurtarılarak 3 Aralık 1920 tarihli Gümrü Antlaşması ile yeniden Türk hakimiyetine girmiştir.
İlçenin yakın tarihimizde de önemli izleri bulunmaktadır. 1. Dünya Savaşında, Enver Paşa komutasındaki Türk Ordusunun 1915 kışında aşmak istediği Sarıkamış Allahuekber Dağlarında bazı kaynaklara göre 60 bin, bazı kaynaklara göre de 90 bin Mehmetçik soğuktan donarak şehit olmuştur. Bu talihsiz olayda şehit olanların anısına Kars-Sarıkamış karayolu üzerinde yaptırılan "Şehitler Anıtı" Sarıkamış'ın yakın tarihimizdeki acı ve unutulmaz izlerini yansıtmaktadır.