Ayub Khan kariyerinin ilk yıllarını İngiltere’de eğitim ve gençlere yönelik hizmet alanlarında çalışarak geçirmiştir. Daha sonra Birmingham Kütüphanesi’nin proje sorumlusu olarak görev alan Khan, şu anda CILIP Başkanı olarak görev yapmaktadır.
Khan aynı zamanda Dijital Evrensel Hizmet Derneği’nin yönetim kurulu üyesi, Uluslararası Kütüphane Derneği Federasyonu ve Kütüphane Binaları Komitesi üyesi, UNESCO Kültür Komitesi üyesi, British Library Ödünç Verme Hakları Komisyon üyesi olarak çalışmakta ve New Library World’un yayın kurulunda yer almaktadır. Ayrıca Khan, Yerel Yönetim Derneği’nin kütüphane ve kültür hizmetleri değerlendirme hakemi ve Shakespeare Birthplace (Doğumyeri) Vakfı’nın konsey üyesi olarak da görev yapmaktadır.
Kütüphane tasarım ve teorileri üzerine birçok yayını bulunan ve CILIP bünyesinde, yerel yönetimde yer alan siyasilere rehberlik yapmaya yönelik çalışma gruplarına başkanlık yapan Khan, yakın zamanda İngiltere’deki halk kütüphaneleri için dijital çevrimiçi içerik konusunda yapılan ulusal bir ihale projesini yürütmüş ve bu projeden elde edilen gelirle sektöre 1.5 milyon pound’dan fazla tasarruf sağlanmıştır.
Khan, aynı zamanda genelde uluslararası kütüphane gelişimi konusuyla ilgilenmekle birlikte, özel olarak çeşitlilik ve kaynaştırma konularına yoğunlaşmaktadır. Khan, British Council bünyesinde birçok ülkede kütüphane projelerinde çalışmış ve halen Bill-Melinda Gates Vakfı tarafından fonlandırılan Bangladeş’teki kamu kütüphane hizmetleri konusunda danışmanlık yapmaktadır. 2013 yılında İngiltere Krallığı tarafından MBE nişanına layık görülmüştür.