Osmanlı Ahrar Fırkası'nın kurucuları arasında yer aldı. Son Osmanlı Meclis-i Mebusanı'na İstanbul mebusu olarak seçildi. 4 Mart 1920 tarihinde başkanlığına seçildiği Meclis-i Mebusan'ı, İstanbul'un bundan 12 gün sonra, 16 Mart 1920’de işgal edilmesi üzerine terk ederek Anadolu'ya geçti ve Erzurum milletvekili sıfatıyla Millî Mücadele saflarında yer aldı. 23 Nisan 1920 tarihinde açılan TBMM'nin 24 Nisan'da yapılan Meclis Başkanlığı seçimine tek aday olarak giren Mustafa Kemal Paşa 120 mebustan 110'unun oyuyla birinci başkan (reisievvel) seçilmiş, Celalettin Arif Bey ise 109 oyla ikinci başkan (reisisani) seçilmiştir.[1] Daha sonra Adliye Vekilliği, Muvakkat İcra Encümenliği, Roma Büyükelçiliği görevlerinde de bulundu.
TBMM'yi Mustafa Kemal'in aksine, Kurtuluş Savaşı'nın nüvesi olarak görmeyip başkanı olduğu Osmanlı Meclis-i Mebusanı'nın geçici bir dairesi olarak algıladığından Mustafa Kemal ile aralarında kısa zamanda görüş ayrılıkları oluştu. Eylül 1920 tarihinde Ermenistan üzerine taarruz hazırlıklarının yapıldığı bir sırada olağanüstü yetkilerle Doğu illeri Genel Valiliği'ne (Rize, Trabzon, Erzurum, Erzincan, Van, Beyazıt illeri TBMM tarafından uygun görülecek başka bölgeleri de içine almak üzere) atanmasını önermesi ve Mustafa Kemal'e çektiği ültimatom içerikli telgraflar kötü bir etki yarattı. 1921 yılı başında Roma Büyükelçiliği'ne atanarak Adliye Vekilliğine vekaleten Zekai Apaydın getirildi. Ocak 1921 tarihinde teşkil edilen II. İcra Vekilleri Heyeti'nde de Adliye Vekili sıfatını muhafaza etmekle birlikte, bu görevi vekaleten Hafız Mehmet yürüttü.