Aslen Mekkeli olan Abdullah Efendi, zamânının usûlüne göre çeşitli ilimleri tahsîl etti. İlimde yüksek dereceye ulaştıktan sonra Bağdâd'da bulunduğu sırada büyük âlim ve velî, meşrebi suffiye yolunun büyüklerinden Mevlânâ Hâlid?i Bağdâdî hazretlerini tanıdı, sohbetleriyle şereflendi.
Mevlânâ Hâlid hazretlerinin sohbet ve hizmetlerinde bulunarak kemâle, olgunluğa ulaştı. Tasavvuf yolunda ilerleyip yüksek mânevî derecelere kavuştu. Mevlânâ Hâlid?i Bağdâdî hazretlerinin talebelerinin önde gelenlerinden oldu. Hocası ona hilâfet?i mutlaka yâni tam icâzet, diploma verdi. İnsanlara İslâmiyetin emir ve yasaklarını anlatmak ve talebe yetiştirmekle vazîfelendirerek Erzincan'a gönderdi.
Abdullah Mekkî önce Erzurum'a uğradıktan sonra Erzincan'a gitmek üzere yola çıktı. Erzincan'a gelirken buranın ova ve dağlarını seyredip, yanındakilere; "Allah bilir ammâ Mevlânâ Hâlid?i Bağdâdî hazretlerinin bize târif buyurdukları memleket burası olmalıdır. Buradaki bir zâtın bizde nasîbi ve emâneti vardır." dedi.