Ali Ulvi Elöve, Mustafa Fevzi ve Ayşe Süreyya'nın oğludur. 1881 yılında Selanik'te doğmuştur. İlk ve orta öğrenimini Selanik'te Feyzi Sıbyan (Daha sonra İstanbul'da kurulan Feyziye Mektebi yani Işık Lisesi) adlı hususi bir rüştiyede yapmış ve bu okuldan 1895 yılında diploma almıştır. Bir yıl Selanik Mülki İdadisi'nin beşinci sınıfına devam etmiş, iki yıl Manastır ve Selanik Firerler Mektebi'nde okumuştur. Sonra Selanik Darülmuallimin-i İptidaisi'nde imtihana girerek ilkokul öğretmenliği ehliyetnamesi almıştır.
İstanbul Erkek Öğretmen Okulu'ndaki görevi esnasında müzik öğretmeni Violonist Zeki Bey ve beden eğitimi öğretmeni Flütçü Adnan Bey'le birlikte birçok Avrupa kökenli bestelere güfteler yazmaya başlamıştır. Birinci Dünya Savaşı yıllarında okul, Moda'daki St. Joseph'in binasına taşınır ve eğitime oradan devam edilir. İşte bu yıllarda bir gün Selim Sırrı Tarcan, Ali Ulvi Elöve'yi ziyaret ederek, beğenilen bir İsveç marşı için Türkçe 4+4 veya 8 heceli bir güfte ister. Bundan sonrasını yani Dağ Başını Duman Almış'ın (Gençlik ve Spor Marşı) doğuşunu kendisi şöyle anlatmaktadır:
“Birinci umumi harbin aleyhimize döndüğü, gençliğin ve herkesin ye'se düştüğü zamanlardı. Memleketi saran endişeler, her şeye rağmen ümitlerle dolu olan ruhumu eziyor, zihnimi her an didikliyordu. Bu elemli havayı biraz dağıtıp gençlere azim ve ümit, metanet ve kalb kuvveti verir ümidiyle kalemim o yılda bu konuyu seçmişti”. Marş ilk defa Moda'daki İstanbul Erkek Öğretmen Okulu'nda (St. Joseph Binasında) söylenmiş, 1916 yılında “Kadıköy İttihat Spor Çayırı'nda” İstanbul Erkek Öğretmen Okulu'nun öğrencilerinin Selim Sırrı Tarcan nezaretindeki beden eğitimi gösterilerinde söylenmiş, daha sonra da marş, ağazdan kulağa hızla yayılmıştır. Mustafa Kemal'in ilk olarak 19 Mayıs 1919 da Samsun'a çıkmasıyla birlikte bu marşı söylemeye başladığı bilinmektedir.
Diğer eserleri arasında, Çocuklarımıza Neşideler, Dilbilim Terimleri Sözlüğü (Mehmet Ali Ağakay ve Agop Dilaçar'la beraber), Edebiyat ve Söz Sanatı Terimleri Sözlüğü (Mehmet Ali Ağakay ve Agop Dilaçar'la beraber), Küçüklere Çamur İşleri Nasıl Yaptırmalı? (Garsen'den tercüme), Mikyas-ül Lisan Kıstas-ül Beyan (Kütahyalı Abdurrahman Fevzi Efendinin bu addaki eserinin, günümüz Türkçesi'ne çevrilmiş şeklidir), Türk Dili Grameri (Osmanlı Lehçesi), Türkçe Hekimlik Terimleri Üzerine Bir Deneme (Dr. Şefik İbrahim İşçil'le beraber) bulunmaktadır.