1906 yılında İstanbul'da doğan besteci ilk müzik eğitimini çok küçük yaşta annesinden aldı. Ulvi Cemal yedi yaşındayken Adinolfi'nin yanında piyano derslerine başladı.
Galatasaray Lisesini bitirince burs kazanarak devlet hesabına Paris'te müzik öğrenimine gönderildi. Paris konservatuarında ve ecole Normale de musique'te Gallon Baulanger gibi hocalardan kompozisyon dersleri aldı. 1930'da yurda dönünce Ankara Musiki ve muallim mektebinde armoni ve piyano öğretmeni olarak atandı. 1936'da Devlet Konservatuarı kuruluncaya kadar bu görevini sürdüren Erkin o tarihte yine piyano öğretmeni olarak Konservatuar'da çalışmaya başladı ama piyano ve konser çalışmalarını yavaş yavaş ikinci plâna çıkarmış artık iyiden iyiye besteciliğe yönelmişti.
1942'de Cumhuriyet Halk Partisi büyük ödülünü aldı. Ulvi Cemal Erkin kendi bestelerinden oluşan ilk konserini 1946 yılında verdi. 1949'dan 1951'e kadar devlet konservatuarının müdür olarak yöneten besteci, ölümüne kadar piyano bölümü şefi ve piyano öğretmeni olarak aynı yerde görevini sürdürdü.
Eserlerindeki ortak nokta ustalıklı bir orkestralama sezgi ve kullanışı, titiz bir istif kuşkusu özden ve içten gelen bir esindir.
Ulvi Cemal Erkin 1973'te Ankara'da öldü.