Futbola doğduğu şehrin takımı olan Nassara Yaoundé altyapısında başlayan Gilles Binya, daha sonra Constellacio Yaoundé Cotonsport Garoua altyapılarında oynadı. 2003 yılında Tonnerre Yaoundé as takımına transfer olarak profesyonel futbolcu oldu. Burada bir sezon oynadıktan sonra Cezayir ekiplerinden MC Oran transfer olarak ilk yurt dışı transferi gerçekleştirdi. Burada üç sezon boyunca oldukça başarılı bir dönem geçirdikten sonra, 2007-08 sezonunun başında Avrupa futbolunun önemli takımlarından Benfica'ya transfer oldu. Burada ilk iki sezonunda oynama fırsatı bulsa da genek olarak takıma girmekte zorlandı ve 2009-10 sezonunun başında İsviçre Süper Lig ekiplerinden Neuchâtel Xamax'e kiralandı. Bir sezon ardından bonservisiyle beraber buraya transfer oldu.