Aydıntepe İlçesinin bulunduğu bölge tarihin çeşitli dönemlerinde bir çok medeniyete ev sahipliği yapmıştır. Yörenin bilinen en eski sakinleri Haldilerdir. Hitit kaynaklarında Bayburt'tan Dukamma adı ile bahsedilmiş olması M.Ö.3000-2500 yılları arasında Aydıntepe ve çevresinin Hititlerin egemenliğinde bulunduğunu göstermektedir.
Aydıntepe ve yöresinde Urartular,İskitler,Romalılar,Persler ve Bizanslılar hüküm sürmüşlerdir.Yöre 1071 Malazgirt Zaferiyle Türklerin eline geçmiş,1072 -1202 yılları arasında bazen Saltukluların bazen de Danişmendlilerin hakimiyetinde kalmıştır. 1202 yılında Selçuklular Saltuklu Devletine son verince Bayburt ve çevresini de ele geçirmişlerdir.
Yöre bir süre İlhanlıların,Akkoyunluların ve Safevilerin denetiminde kalmış, 1514 Çaldıran Savaşından sonra Osmanlıların hakimiyetine girmiştir.
1916-1918 yılları arasında Rus işgali ve Ermeni zulmüne maruz kalan bölge 21 Şubat 1918'de işgal kuvvetlerinin yöreyi terk etmeleri sonucu tekrar Türk egemenliğine geçmiştir.
Osmanlılar döneminde Hart ismiyle Bayburt kazasına bağlı bir nahiye olarak varlığını sürdüren Aydıntepe, Cumhuriyetin kuruluşundan sonra bucak merkezi olmuştur. 1957 yılında nüfusu göz önüne alınarak Belediye teşkilatı kurulmuş ve adı Aydıntepe olarak Türkçeleştirilmiştir.
1987 yılında 3392 Sayılı Kanun ile İlçe olan Aydıntepe, önce Gümüşhane İline,1989 yılında çıkarılan 3578 Sayılı Kanun ile İl olan Bayburt'a bağlanmıştır. İlçede Kaymakamlık teşkilatı 09.06.1988 tarihinde oluşturulmuştur.