Hz. Ömer, hicrî yirminci yılda İbn Mes’ud’u, Kûfe kadılığına tayin etti. Kadılık görevinin yanı sıra Beytülmâl*’in muhafazası ile ilgilenecek, öte yandan halkın dinî eğitimine de önem verecekti. Hz. Ömer bununla ilgili olarak Kûfe halkına gönderdiği mektupta şöyle diyordu:
“Size Ammâr b. Yâsir’i Emir, İbn Mes’ud’u da öğretici olarak gönderiyorum. Beytü’l-mâl’ınıza da İbn Mes’ud’u tayin ettim. Bunların her ikisi de Bedir ehlindendirler. Onları dinleyin ve onlara itaat ediniz. İbn Mes’ud’u yanımda alıkoymak istiyordum ama sizi kendime tercih ettim.”
İbn Mes’ud (r.a.), üzerine aldığı bu görevi son derece liyakat ve ehliyet ile yerine getirdi. Kûfe, mahsullerinin çokluk ve çeşitliliği, gelirinin genişliğiyle tanınmış bir merkezdi. Onun için buranın ‘beytü’l-mâl’i önemliydi . Çünkü burası, binlerce Mücahidin tahsisâtını karşılıyordu. Horasan, Türkistan ve bunlara benzer diğer yerlerde, cihada katılan müslümanlar en uzak cephelerde çarpışan ordular, buradan teçhiz ediliyordu. Bu durum, İbn Mes’ud tarafından yürütülen vazifenin ne kadar zor olduğunu göstermeye yeterlidir. İbn Mes’ud’un bu kadar mühim bir işi üstlenmesi onun ne kadar hünerli biri olduğunu gösterir.