Seyyid Yahya Şirvani'nin yetiştirdiği halifelerden bazıları, Anadolu'ya gelmişler ve Halvetiliği Osmanlı toplumunda yaymışlardır. Bunlar: Pir Muhammed Erzincani, Dede Ömer Ruşeni Molla Ali Halveti ve Habib Karamani 'dir.
Seyyid Yahya Şirvani'den hilafet alıp, Anadolu'ya tarikat faaliyetlerini sürdürmek için gelen bu zatların vefat tarihleri göz önünde bulundurulduğu zaman, Halveti Tarikatı'nın, Osmanlı topraklarında XV. yüzyılın ikinci yarısından itibaren yayılmaya başlamıştır.
Osmanlı topraklarında Halvetiliğin ilk filizlendiği merkez, Pir İlyas Halveti ve Zekeriya Halveti gibi üstün özelliğe sahip şahsiyetlerin çabasıyla, Amasya olmuştur. Pir İlyas'ın Şirvan'dan dönmesiyle, Amasya'da ortaya çıkan Halveti Tarikatı mensuplarını marifet ilmine teşvik etmiş, bu şekilde halkın hüsn-ü kabulüne mazhar olup, çabucak yayılmıştır.
Amasya'da Halveti Tarikatı'nın bu şekilde yayılması, daha sonra Çelebi Halife namıyla anılacak ve Osmanlı Tarihinde Halvetiye'nin en parlak dönemini yaşatacak Şeyh Mehmed Cemaleddin Aksarayi (Çelebi Halife)'nin yetişmesini sağlayacaktır. Çelebi Halife, Aksaray'da doğmuş ve tahsilini Aksaray, Konya ve İstanbul' da tamamlamıştır. Önceleri Tokat'a giderek Şeyh Tahiroğlu adında bir şeyhin manevi terbiyesi altına girerse de şeyhin vefatıyla birlikte, Seyyid Yahya Şirvani'den istifade etmek için Şirvan'a doğru yola çıkar. Yolda uğradığı Erzincan'da Pir Muhammed Erzincani ile görüşür. Oradan Şirvan'a doğru yola koyulur. Ancak iki gün sonra, yolda Yahya Şirvani'nin vefat haberini duyar. Bu haber üzerine tekrar Erzincan'daki Pir Muhammed Erzincani'nin yanına dönerek, orada sülukunu tamamlar ve Şeyhi tarafından Anadolu'ya irşatla vazifelendirilir.
Çelebi Halife, Halveti Tarikatı'nın Osmanlı Ülkesindeki en önemli şeyhidir. Aynı şekilde o dönemde İslam aleminin kültür merkezi haline gelen İstanbul; tarikatını yaymak için en müsait ortam olacaktır. Padişahla birlikte Amasya'dan gelen Koca Mustafa Paşa, vezirliğe yükselir. Aynı zamanda Çelebi Halife'ye bağlı bulunan bu zat, Şeyhe külliye yapmak üzere Bizans'tan kalan Kızlar Kilisesi'ni padişahtan ister. 1486 yılında Koca Mustafa Paşa, oraya 40 hücreli büyük bir külliye, cami, imaret, mektep, medrese, hamam ve tevhidhane yaptırır. Yapılan bu Koca Mustafapaşa Dergah'ı, İstanbuldaki İlk Halveti Tekkesidir.
Çelebi Halife, bu dergahta yaklaşık 10-11 sene Halveti Tarikatı'nı yayar ve derviş yetiştirir. Osmanlı topraklarında Halvetiliğin yayılması ve yerleşmesine emeği geçen Çelebi Halife Hac yolunda vefat eder. Çelebi Halife ile birlikte yayılan ve yerleşen Halveti, ondan sonra halifelerinden Sünbül Sinan, Merkez Muslihiddin Efendi tarafından devam ettirilir ve onlardan sonra bir çok kol ve şubelere ayrılarak, asırlarca Türk Milleti'nin dini ve sosyal hayatında yer alır.
İbrahim Zahid Geylani'de "Zahidiyye" adıyla anılan tarikat, ondan sonra Şeyh Ahi Muhammed Harezmi ile Halveti adıyla devam ederken, Şeyh Safiyyüddin Erdebili ile Erdebiliyye ya da Safeviyye şeklinde yeni bir kola ayrılır. Şeyh Safiyyüddin'in yedinci İmam Musa Kazım'ın torunlarından olduğunu ve Safevi Tarikatı silsilesinde Musa-ı Kazım yer almıştır. Aynı şekilde, aynı silsileye sahip Halvetiye Tarikatı'nda Musa-ı Kazım dahil, ehlibeyt imamlarının zamanla silsileden silindiğini görüyoruz.