Atatürk'ün sırdaşı olarak bildiğimiz Kılıç Ali, asıl ismi Asaf'tır. Baba tarafı Rodos ahalisinden Rumeli'nin fethinde bulunmuş Hüsrevoğulları sülalesinden, anne tarafı 19. Yüzyıl sonunda Osmanlı'ya göçmüş Abhazlardandır.
Gedizli Küçük Zabit Mektebi'ni 1906’da bitirmiş, yaptığı faydalı hizmetlerden dolayı Harp Okulu mezunu olmamasına rağmen teğmenliğe daha sonra da üstteğmenliğe yükselmiştir. Balkan Harbi'nde Çanakkale'de görev almış ve bacağından yaralanmıştır. Tedavi için gittiği Almanya'dan Harbi Umumi yıllarında dönmüştür. 1918’de yüzbaşı olmuş ardından Enver Paşa'nın kardeşi Nuri Paşa'nın yaveri olarak İslam Ordusu'yla Ruslardan boşalan Azerbaycan'a gitmiştir.
Harbi Umumi bitince İstanbul’a geri gelmiştir. İşgal altındaki İstanbul'da kalmak istememiş yaverliğini yaptığı Nuri Paşa kendisine Enver Paşa'nın genç subaylara ihtiyacı olduğunu söylemesi üzerine iki arkadaşıyla birlikte Orta Asya'ya gitmeye karar vermiştir. Ancak bu yolculuk için gerekli paraları yoktur. Bunun için Celal Bey’e (Bayar) müracaat eden Kılıç Ali'ye kendisinin cevabı; “İstediğiniz parayı vereyim. Orta Asya'ya gidin. Enver Paşa'nın ordusuna katılın, ama iyi düşünün; geri döndüğünüzde acaba Anadolu'yu yerinde bulabilecek misiniz? Bana kalırsa siz Sivas'a gidip Mustafa Kemal'e katılın.” şeklinde olmuştur. Bu telkinden kısa süre sonra Anadolu'da Mustafa Kemal'in başlattığı harekete katılmıştır. Başta Mustafa Kemal, Kılıç Ali ve arkadaşlarını istememiş onları ittihatçı casusu olarak görmüştür. Ancak Kılıç Ali kendisine verilen görevleri çok iyi bir şekilde yerine getirmiş ve Mustafa Kemal’in güvenini kazanmasını bilmiştir. Güney cephesinde komutan olarak görev almış ve Maraş'ta Fransız kuvvetlerini yenilgiye uğratmıştır. Adı bölgede efsaneleşmiş Burhan Cahit'in Antep ve Maraş savunmalarını anlattığı Gazi'nin Dört Süvarisi adlı kitabına kahramanlığı konu olmuştur.
Türkiye Büyük Millet Meclisi açıldıktan sonra Antep mebusu olarak meclise girmiş ancak askerlik görevine de devam etmiştir. Kurtuluş Savaşı'nın şiddetle devam ettiği bir sırada Yozgat’ta çıkan Çapanoğulları isyanını Çerkez Ethem kuvvetleriyle birlikte bastırmış ve Çerkez Ethem'i yakından tanıma fırsatı da bulmuştur. Daha sonra hatıralarında Çerkez Ethem’e yer vermiştir.
İstiklal Mahkemelerinde de görev alan Kılıç Ali, Atatürk'ün vefatına kadar milletvekilliği yapmış ancak 1939’da İsmet İnönü kendisini aday göstermemiştir. Siyaset hayatına devam etmiş 1960 yıllarda Yeni Türkiye Partisi'nden seçimlere girmiş ancak başarılı olamamıştır. Türkiye İş Bankası kurucu üyesi de olan Kılıç Ali 1960’a kadar Banka Yönetim Kurulu'ndaki görevini sürdürmüştür.
14 Temmuz 1971’de vefat eden Kılıç Ali, Atatürk'ün manevi kızı Sabiha Gökçen'in ifade ettiği gibi Atatürk’ün en denenmiş ve sadık arkadaşıdır. Gazeteler onu Atatürk'e yakınlığından dolayı zevat-ı mutade olarak yazmıştır.