Cumhuriyet'in ilanından hemen sonra çıkarılan 439 sayılı Orta Tedrisat Muallimleri kanunun 8. maddesi ile kimlerin Resim- İş, Müzik ve Beden Eğitimi öğretmeni olabileceklerine açıklık getirilmiş ve öğretmenlik mesleği yasal dayanağa kavuşturularak orta öğretime öğretmen yetiştiren kurumlar açılmaya başlanmıştır.
Türkiye Cumhuriyeti'nde müzik öğretmeni yetiştiren ilk kurum, Cumhuriyetin ilanından hemen sonra Maarif Vekaleti'nin 1924 yılı bütçesiyle kabul edilen ve 1 Eylül 1924 tarihinde orta dereceli okullara müzik öğretmeni yetiştirmek amacıyla kurulan ve 1 Kasım 1924'te öğretim hayatına giren Musiki Muallim Mektebidir. 1924-25 öğretim yılı bir bakıma okulun deneme yılı olmuş, 1925-26 yılı başında ise hakiki anlamda müzik öğretmeni yetiştiren bir kurum haline gelmiştir. Nitekim okulun talimatnamesi de bu sırada 29 temmuz 1925'te yayınlanmıştır.
Musiki Muallim Mektebi'nin 1924-25 dönemindeki ilk öğretim kadrosu Riyaseticumhur Filarmoni Orkestrası üyelerinden meydana geliyordu. 1926 yılında okuldan beklenen gayelerin temini için öğretim kadrosunun nitelik ve niceliğinin iyileştirilmesine karar verildi. Bu doğrultuda, Avrupa'da kendi hesabına öğrenim görenlerden liyakatli olanların vekalet hesabına alınması ve Avrupa'ya öğrenci gönderilmesi uygun görüldü. 1928 ve 1929 yıllarında Musiki Muallim Mektebi'nde 10 öğretmen ve 5 öğretmen yardımcısı görevliydi.
Musiki Muallim Mektebi'nin ilk öğrenci kadrosu Erkek Muallim Mektebi'nden seçilmiş olan 6 kişiden ibaretti. Aynı öğretim yılının sonuna doğru İstanbul Balmumcu'daki Öksüz Yurdu'ndan 6 öğrenci daha getirilerek öğrenci sayısı 12'ye çıkarıldı. 1925-26 yılında okulun tesisatı az çok tamamlandığı için Öksüz Yurdu'ndan getirilen yeni öğrencilerle okuldaki öğrenci kadrosu 40 kişiye çıkarıldı. 1927-28 yılından itibaren Musiki Muallim Mektebi'ne yatılı öğrenci de kabul edilmeye başlandı. Böylece bu öğretim yılında okuldaki öğrenci sayısı 24'ü kız olmak üzere 71'i bulmuştu. Sonraki yıllarda bu sayı daima artmış ve 1935-36 yıllarında 67'si kız olmak üzere 149'u bulmuştur.
Öğretim süresi ilkokul üzerine 6 yıl olan Musiki Muallim Mektebi'nde biri genel orta öğretim diğeri mesleki öğretim olmak üzere 2 devre vardı. 4. sınıfı bitiren öğrenciler Türkçe ve Yabancı Dil haricindeki genel derslerle Müzik Teorileri dersinden bir mezuniyet sınavı veriyorlardı. Türkçe ve Yabancı Dil ile mesleki ihtisas derslerine ait sınavlar altıncı sınıf sonunda yapılıyordu.
Musiki Muallim Mektebinin 1931 yılında yeni bir talimatnamesi yayınlanmış ve okulun süresi genel ortaöğretim ve mesleki öğretim adıyla iki bölüm halinde 6 yıla çıkartılmıştır.
1934'te Milli Musiki ve Temsil Akademisinin kurulmasıyla Musiki Muallim mektebi, Riyaset-i Cumhur Filarmonik Orkestrası ve Temsil Şubesi Yüksek Tedrisat'a devredilen bu kurumun bünyesinde yer almıştır.
1936-37 öğretim yılında Musiki Muallim Mektebi Temsil sınıfları ismiyle bir konservatuar faaliyete geçmiş, Riyaset-i Cumhur Filarmonik Orkestrası ise bu akademiden ayrılmıştır. Bütün bu gelişmelerin sonucu müzik öğretmeni yetiştirme amacının yanında sanatçı yetiştirme amacı da ağırlık kazanmaya başlamış ve Musiki Muallim Mektebi 1938-39 öğretim yılından itibaren Gazi Orta Muallim Mektebi ve Terbiye Enstitüsü'ne aktarılmış ve Gazi Orta Öğretmen ve Terbiye Enstitüsü Müzik Şubesi adını almıştır.
1935-37 yılları arasında, Türkiye'de Konservatuvarın kurulması ve müzik sorunları ile ilgilenmek üzere çağrılan Prof. Paul Hindemîth, bu okulun, bir yabancı uzman gözetiminde bağlanmasını önerdi. Binası yapılıp gerekli hazırlıklar tamamlandıktan sonra, 1938-39 eğitim yılında Müzik Bölümü eğitime G.E.E'de başladı. Bölümün başına, Hindemith'in tavsiyesiyle Hitler Almanya'sını terk edip gelen Prof. Eduard Zuckmayer getirildi.
G.E.E Müzik Bölümü'nün öğretmen kaynağı, geçen zaman içinde incelenirse şöyle bir görünüm ortaya çıkar: 1) Ankara Devlet Konservatuvarı'ndaki, Cumhurbaşkanlığı Orkestrasındaki, Ankara Devlet Operasındaki öğretmen ve müzisyen birikiminden yararlanma. 2} Asistan alınarak öğretmen yetiştirme. 3) Yurtdışına gönderilip yetiştirilen Bölüm mezunlarından yararlanma. 4) Meslekte kendini yetiştirmiş Bölüm mezunlarından, Bölüm Kurulunun kararı ile eleman seçip atamalarını sağlama, 5) Genel bilgi ve meslek dersleri öğretmenlerini Enstitünün diğer bölümlerinden ya da MEB kuruluşlarından çağırma.
1966 yılına kadar Gazi Eğitim Enstitüsü Müzik Şubesinin bina ihtiyacına bugün halen Zuckmayer Binası adı altında uygulama anaokulu olarak kullanılan bina,cevap vermiştir. Zuckmayer binası iki katlı olup çeşitli tipte 45 odası bulunmaktadır.
G.E.E Müzik Şubesi 1968-69 öğretim yılında hizmete giren dönemin çağdaş bir müzik okulunda bulunması gereken özellikleri taşıyan binasına kavuşmuştur.Yeni bina 7 derslik, 90 bireysel çalışma odası, biçimi kuyruklu piyanoya benzeyen 437 kişilik bir konser salonu, 200-250 kişilik prova salonu, çalgı bakım onarım atölyesi, kayıt stüdyosu gibi çeşitli bölümlerden oluşmaktadır.
Gazi Eğitim Fakültesi Güzel Sanatlar Eğitimi Bölümü Müzik Eğitimi Anabilim Dalı günümüzde de kuruluşundaki heyecanla, lisans ve lisansüstü programları ile hizmet vermeye devam etmekte, ulusal ve uluslar arası organizasyonlarda merkezi bir kurum olarak görev üstlenmenin kıvancını taşımaktadır.