Kolej Ligi'nde Marshall University'de oynadıktan sonra 1958 NBA Draftı'nda Syracuse Nationals tarafından seçilmiştir. Greer, Syracuse için beş sezon oynadı ve 1961 yılında maç başına 22,8 sayılık performansa kadar kendini geliştirdi. Aynı sezon NBA All-Star'a seçildi. 1963 yılında, Syracuse Nationals takımı Philadelphia'ya taşındı ve adı Philadelphia 76ers oldu. Burada, Greer takım arkadaşı Wilt Chamberlain ile iyi bir ikili oldu ve 1966-67 sezonunda Bill Russell önderdliğindeki Boston Celtics'in sekiz sezonluk şampiyonluk serisini bozdu. 76ers' takımının 15 maçlık playoff serilerinde Greer maç başına 27,7 sayı ile takımının en skorer oyuncusu oldu. Greer zıplayarak attığı farklı bir stille attığı serbest atışlarda oldukça yüksek oran tutturmuştur. Pek çok otorite tarafından 1960'larda Oscar Robertson ve Jerry West'in ardından en iyi 3. oyun kurucu olarak kabul edilir.