Osmanlı döneminde Batı müziğinin başkenti İstanbul, en önemli icra merkezi de saraydı. II. Mahmud döneminde Muzıka-yı Hümayun adıyla kurulan askeri bandonun zaman içinde bir saray orkestrasına dönüşmesi, dar bir kesime Batı müziğiyle tanışma fırsatı sunmuş ve yabancı sanatçıların katılımıyla sarayda düzenlenen dinletiler elit kesimin müzik ufkunu genişletmişti. Orkestra, saray dışına adımını ilk kez 1917 yılında, Zeki Bey’in (Üngör) yönetiminde atmış ve halka yönelik konserlere de başlamıştı. Haftalık halk konserleri Tepebaşı’ndaki Union Française salonunda verilmekteydi. Orkestra, Kurtuluş Savaşı yıllarında saraya bağlı bir kurum olarak varlığını sürdürdü. 1922’de saltanatın kaldırılması üzerine halifeye bağlandı ve Makam-ı Hilafet Mızıkası adını aldı. Fakat 3 Mart 1924 tarihinde hilafetin kaldırılması ortaya yeni bir durum çıkardı. Orkestra, 11 Mart 1924 günü Ankara’da Milli Sinema binasında, Latife Hanım’ın himayesinde düzenlenen bir baloda sahne aldı ve Şef Zeki Bey’in yönetiminde İstiklal Marşı’nı seslendirdi. Halkın büyük ilgi gösterdiği bu konser, aynı zamanda kentte verilen ilk senfonik müzik konseriydi. Yeni hükümet merkezinde ilk sınavını böylece başarıyla veren orkestra, 27 Nisan 1924 tarihinde Cumhurbaşkanı Mustafa Kemal Paşa’nın emriyle Ankara’ya taşınarak Riyaset-i Cumhur Musiki Heyeti adını aldı. Orkestranın bünyesinde bando ve incesaz olarak iki takım yer alıyordu. Sonraki yıllarda Cumhurbaşkanlığı Senfoni Orkestrası’na dönüşecek olan Riyaset-i Cumhur Orkestrası’nı Zeki Bey (Üngör), incesaz takımını ise Hafız Yaşar Bey (Okur) yönetiyordu.