Veli Ballı, 6 çocuklu bir ailenin ferdi olarak 1949 yılında Muş’un Varto ilçesinde doğdu. İlk ve orta öğretimini Varto’da bitirdi. 1966 Varto Depremi’nden sonra devlet tarafından Aydın’a gönderildi. Lise öğrenimine burada başlayan Veli Ballı daha sonra Sivas’a gelerek Endüstri Meslek Lisesi’ne kayıt oldu ve öğrenimini burada tamamladı. Aynı dönemde Sivas Demir Spor Kulübünde atletizm hayatına başladı. Daha sonra atletizm hayatını Ankara’da sürdürdü. 1970 ’de yıldızlar kategorisi 1500m Türkiye rekorunu kırdı. Daha sonra uzun mesafe koşularına geçti. 1972’den itibaren maraton koşmaya başladı. Ününü bu dalda yaptı. 1976 ’da Lahor’da yapılan Uluslararası Maraton Yarışması ’nda 2 saat 11 dakika 30 saniyelik derecesiyle birinciliği kazandı ve bu derecesiyle dünya klasmanında altıncı sırayı aldı. 1977 ’de Balkan Maraton Şampiyonluğu’nu kazandı. 1978'de Hollanda'da yapılan 9. Uluslararası Westland Maratonu'nda birinci oldu. 1979 ’da Uluslararası Atina Maratonu ’nda birinciliği elde etti.