1938 İskenderun doğumludur. Kabataş Lisesi mezunudur. Baba tarafından Türkmen, anne tarafından Kafkasyalı bir aileye mensuptur. Ankara Üniversitesi Siyasal Bilgiler Fakültesini 1960'da bitirmiştir.
1960'larda bir süre DPT'de çalışmıştır. Bir süre sonra Uzun Vadel Planlar Dairesi Müdürlüğüne getirilir, ardından istifa eder.
Yalçın Küçük, buradan ayrılınca Amerika'ya gider, Yale'de lisans eğitimi alır. Ardından mülakatı kazanarak dört ay boyunca da Dünya Bankası'nda staj yapar. Küçük, 1966 yılında ise ODTÜ'de çalışmaya başlar. Rusça öğrenir. 1968-1970 yılları arası Birmingham Üniversitesi Rus ve Doğu Avrupa Araştırmaları Merkezi'nde bulunur. Sovyetoloji araştırmalarını kitaplaştırır, daha sonra bu kitaplar yüzünden 8 yıla mahkum olur. 1973 yılında Polatlı Topçu okulunda askerliğini yedek subay olarak yapmıştır. Askerden sonra Cumhuriyet'te çalışır.
12 Eylül döneminde Gazi Üniversitesi'nde doçent ünvanı ile öğretim görevlisidir. 1993'de Paris'e gider. 1998'de Türkiye'ye döner. Çalışmalarını Sabetaycılık hususunda yoğunlaştırır.