Kendisi de çeşitli vilâyetlere ve bilhassa Basra ve Kûfe'ye sürekli olarak mektuplar gönderiyordu. Bu mektuplarda idari ve siyasi meseleler, yalan ve iftiralarla abartılıyor, Hz. Osman ve valilerinin halka zulüm ve gadrettiği ve bütün vilâyetlerin müthiş bir kargaşa içinde bulunduğu imajı veriliyordu. Maksat, Medine dışındaki diğer bölgelerin İslâmî çizgiden gittikçe uzaklaştığı, anarşinin bütün İslâm beldelerinde yaygınlık kazandığı kanaatini halka telkin etmek, halifenin bu meselelere karşı lâkayt ve aciz kaldığını zihinlere yerleştirmekti.
Fitne ve fesat haberleri Medine'ye ulaşınca Hz. Osman (ra), Hz. Ali'nin de yardımıyla, durumun tetkiki için çeşitli vilayetlere güvenilir ve itibarlı heyetler gönderdi. Bu heyetler, durumun propaganda edildiği gibi olmadığını, aksine bütün ülkede huzur ve sükûnun hâkim olduğunu görerek raporlarında belirttiler. Hz. Osman (ra), heyetlerin bu raporları ile de iktifa etmedi ve bütün valileri istişare için Medine'ye çağırdı. Onlarla fikir alış verişinde bulundu. Gerçekten ortada önemli bir problem yoktu. Yine de tedbir olarak valileri, halka iyi muamele etmeleri yolunda uyardı. Ancak fitne durmuyordu. Çünkü düşman gizli ve sinsi idi ve çok plânlı çalışıyordu. Ortada, üzerine yürünülebilecek açık bir cephe mevcut değildi. Halk, her gün biraz daha fitnenin içine itiliyordu.
İbn-i Sebe, bu çalkantılar sırasında, Şiîliğin ilk çekirdeği olan Sebeiyye mezhebini kurdu (2). Böylece, tasarladığı hainâne plânını gerçekleştirmede büyük bir adım atmış oluyordu. Bu mezhep, istikbâlde İslâm'ı parçalayacak fırkaların temelini teşkil edecekti.
İbn-i Sebe, Mısır'da kurmuş olduğu bu mezhebine yeterince taraftar buldu ve onları Hz. Osman (ra) aleyhine tam mânâsıyla şartlandırdı. Şimdi sıra yeni bir halife adayı tespit ederek Hz. Osman'ı (ra) katletmeye gelmişti. Bu noktada şöyle bir plânla işe başladı: "Hz. Osman kusurlu ve hatalı bir insandı. O'nun perine gelecek kimse de hatalı bir insan olursa problemlere çözüm getirilemez; zulmün, haksızlığın önü alınamazdı. O halde en mühim mesele, O'nun yerine gelecek kişinin hatadan sâlim, masum bir insan olmasıydı. Bu masum insan ise, çocukluğundan beri Hz. Peygamber'in (sav) murakabesi altında yetişen, O'nun terbiyesiyle olgunlaşan ve O'nun ilmine ve kemâline vâris olan Hz. Ali'den başkası olamazdı. Her peygamberin bir veziri olduğu gibi, Hz. Ali de Hz. Peygamber'in veziriydi. Hz. Ebûbekir, Hz. Ömer ve Hz. Osman, O'nun bu veraset hakkını gasbetmişlerdi..."
İbn-i Sebe bu davasını kuvvetlendirmek için, Hz. Ali'yi (ra), eski masal kahramanları gibi gösteriyor, birtakım hurâfe ve hikâyelerle O'nun, insanüstü bir varlık olduğunu telkin ederek etrafındaki insanlar gitgide birer Hz. Ali meczubu haline getiriyordu.
İbn-i Sebe, plânlarını merhale merhale uygulama sahasına koymaktaydı. Şimdi sıra güya Hz. Ali'nin (ra) hakkını almaya gelmişti. Bunun için de şu telkin metodunu uyguladı: "Her peygamberin bir vasisi vardır. Hz. Peygamber (sav), Hz. Ali'yi (ra) vasi tayin etmiştir. Hz. Peygamber'in bu vasiyetini yerine getirmemek kadar büyük bir cinayet olamaz. Hem Hz. Peygamber (sav), Hz. İsa gibi tekrar yeryüzüne geri gelecek ve niçin vasiyetimi yerine getirmediniz?' diye bizden hesap soracaktır. O zaman hepimiz mahcup olacak ve hüsrana uğrayacağız..." (3)
Bu gibi telkinlerle, çevresindeki insanların his ve heyecanlarını, arzu ettiği noktaya getirince Medine'yi basıp Hz. Osman'ı (ra) öldürmeye karar verdi. İbn-i Saba, Hac'ca gidiyormuş gibi yaparak harekete geçirdiği adamlarını Medine yakınındaki Meyve'de topladı. İlk fırsatta Medine'ye girecekler ve Hz. Osman'ı öldürmek için çareler arayacaklardı.
Katlin, Haşimîler tarafından yapıldığı intibaını vermek için de Mısırlılar Hz. Ali'nin (ra) etrafında toplanacaklar ve güya Hz. Ali'nin hakkını müdafaa edeceklerdi. Tâ ki, Emevîlerle Haşimîler karşı karşıya gelecekler ve böylece iç savaş başlayacaktı.
İbn-i Sebe, daha önce Basra, Mısır ve Küfe gibi merkezlerdeki adamlarına Hz. Aişe, Hz. Ali, Hz. Talha ve Hz. Zübeyr in (ra) imzalarıyla uydurma mektuplar göndermiş ve onlardan güya Hz. Osman'ın hilâfetten uzaklaştırılmasını istemişti. İbn-i Sebe'nin komitecileri bu mektuplarla birçok insanı ifsat ettiler. Böylece kuvvetlendiler ve yola çıkarak İbn-i Sebe'nin grubuna Medine yakınlarında katıldılar. Bu yeni kuvvetlerle İbn-i Sebe'nin eşkıyaları üç bin civarına erişmiş oluyordu.
Mısırlılar Hz. Ali'ye, Basralılar Hz. Talha'ya ve Kûfeliler de Hz. Zübeyr'e başvurarak: "Mektuplarınızı okuduk; Osman'ı öldürüp ümmeti huzura kavuşturmak ve sizi devletin başına getirmek istiyoruz." dediler. Onlar da, kendileri tarafından böyle bir mektubun yazılmadığını, işin içinde bir nifak olduğunu söyleyerek hemen memleketlerine dönmelerini tavsiye ettiler. İsyancılar bu defa Hz. Osman'ın yanına gittiler. Bunun üzerine, Hz. Osman, Hz. Ali'nin de yardımıyla, asileri ve bütün Medinelileri mescitte topladı. Herkesin şikâyetini dinledi. Onlara: "Şikâyetlerinizi nazara alacağız, hata olarak düşündüğünüz konuları düzeltmeye gayret edeceğiz. Rahat olun..." dedi. Bu arada asiler, Mısır valisinin görevden alınmasını istediler. Hz. Osman (ra) 'vali olarak kimi istediklerini' sordu. Onlar da: "Ebubekir'in oğlu Muhammed'i isteriz" diye karşılık verdiklerinde, Hz. Osman, teklifi kabul etti ve hemen tayin emrini Muhammed'e verdi. Neticede bütün taraflar mutmain olarak geri dönmeye başladılar. İbn-i Sebe, bu durumdan fazlasıyla rahatsız oldu. Geri dönmekte olan Mısır kafilelerini tekrar Medine'ye döndürmek ve mütecaviz bir hale getirmek için şeytani bir plân hazırladı. Mısır valisine hitâben, Hz. Osman (ra) adına bir mektup yazdı: Mektuba, Hz. Osman namına sahte bir mühür basıp, fedailerinden birine vererek kafile arkasından yola çıkardı. O da devesiyle kafileye yetişerek, plân gereği şüpheli hareketlerle dikkati kendi üzerine çekti. Neticede kafiledekiler bu adamdan şüphelenerek onu yakaladılar ve mektubu ele geçirdiler. Zaten onun istediği de bu idi.
Mektupta Mısır valisine hitaben, "Bu âsiler geldiği zaman elebaşlarını öldür ve gerisini de hapset," diye emredilmişti. Bu mektubu dinleyen mütecavizler birden şoke oldular ve yeniden galeyana gelerek tekrar Medine'yi bastılar. Hz. Ali, Zübeyr ve Hz. Talha'nın hâdiseyi yatıştırma gayretlerine rağmen sonunda Hz. Osman'ın evini bastılar ve kendisini Kur'an okurken şehit ettiler.
Hz. Osman'ın katili Yemenli bir Yahudi olan el-Gafıkî idi. Hz..Osman'ın şahadetiyle İbn-i Sebe, davasında büyük bir merhale kat'etmiş .oluyordu. Artık nifak tohumları meyvelerini vermeye başlamıştı. Bu elîm hâdise Müslümanların, İslâm dinini başka ülkelere ulaştırmalarına engel oldu. İslâm'ın fütûhat ve tebliğ devri kapandı, bir duraklama ve çekişme devri başladı.
Bu merhaleden sonra İbn-i Sebe, Haşimîlerle Emevîleri karşı karşıya getirmek için yeni bir plân hazırladı. Hz. Osman (ra) Emevî, Hz. Ali ise Haşimî olduğu için, Hz. Osman'ı, Hz. Ali'nin öldürttüğünü ve 0'nun yerine geçmek istediğini etrafa gizlice yayarak Emevîleri tahrik etti. İbn-i Sebe, bir taraftan Hz. Ali'ye bu çirkin iftirayı yaparken, diğer taraftan O'nun halife olması için açıkça gayret gösteriyor, böylece halkın bu iftiraya kanmasını sağlamaya çalışıyordu.
Bu maksatla, Mısır'dan gelen kafileden, Yahudi asıllı İbn-i Meymun riyasetinde bir heyet seçerek Hz. Ali'nin huzuruna gönderdi. Heyet Hz. Ali'ye: "Malûmunuz olduğu üzere, bu ümmet başsız kalmıştır. Halifeliğe de en lâyık sizsiniz. Sizden bu vazifeyi deruhte etmenizi istiyoruz," dediler. Hz. Ali (ra) bu teklifi reddederek, onları evinden kovdu.
Hz. Ali'den (ra) böyle bir cevap alınması üzerine Kûfelilerden bir heyeti Hz. Zübeyr'e ve Basralılardan bir heyeti de Hz. Talha'ya gönderdi. Hz. Zübeyr ve Hz. Talha da Hz. Ali gibi bunların hilâfet tekliflerini reddederek huzurlarından kovdular.
İbn-i Sebe, onlardan da istediğini elde edemeyince bu defa mütecavizleri sevk ve idare eden Yahudi Gafıkî'ye şu talimatı verdi: "Medinelileri mescide toplayınız ve onlara hemen kendilerine bir halife seçmelerini söyleyiniz. Aksi takdirde hepsini kılıçla tehdit ediniz..."
Gafıki başkanlığındaki âsiler, bu emir mucibince Medinelileri mescide toplayarak onlara: "En kısa zamanda kendinize bir reis seçiniz. Şayet siz bugün bu vazifeyi yapmazsanız, Ali, Zübeyr ve Talha da dahil olmak üzere hepinizi kılıçtan geçireceğiz," dediler. Bu tehdidi dinleyen Medine halkı, Hz. Ali'nin (ra) huzuruna çıkarak, O'ndan halifeliği kabul etmesini istirham ettiler. Hz. Ali de bu karışık durumu göz önünde bulundurarak vazifeyi, hiç istemediği halde, kabule mecbur oldu.