Hz. Ebu Bekir devrinde Medine'den ve Hz. Ebu Bekir'in sohbetinden bir an ayrılmayan Hz. Selman, Hz. Ömer zamanında İran fethine katılmıştır, İslam ordusunun büyük zaferlere kavuştuğu bu seferlerde çok büyük hizmetleri olmuştur, İranlılar hakkında büyük malumat sahibi idi. Çünkü kendisi İranlıydı. İranlıları kendi lisanlarıyla dine davet ediyor, onlara İslamiyet'i anlatıyordu. İranlılar savaşlarında fil kullanıyorlardı. Müslümanlar o zamana kadar fil görmedikleri için çok şaşırdılar. Hz. Selman fillerle nasıl çarpışılacağını ve nasıl öldürüleceğini İslam askerlerine gösterdi. İran'ın Medayin şehri alınınca onu Hz. Ömer şehre vali tayin etti. İlmi, basireti vazifesindeki adaleti ve nezaketi ile Medayin halkı tarafından çok sevilip sayıldı. Böylece İslamiyet orada süratle yayıldı.
Selman?ı Farisi hazretleri Hz. Ömer zamanında Medayin valisi iken otuz bin kişiye hutbe okuduğu zaman yanında da iki parçadan müteşekkil bir hırka vardı. Hırkasının bir parçasını namazlık olarak serer namaz kılar, diğer parçasını da giyerdi. Ondan başka hiçbir elbisesi yoktu. Vali olduğu için kendisine maaş verildi. Maaşını aldığı zaman ondan hiçbir şey harcamaz hepsini fakirlere dağıtırdı. Kendi emeği ile geçinirdi. Topraktan tabak çanak yapar üç dirheme satardı. Onun bir dirhemi ile bir daha tabak yapmak için malzeme alır, bir dirhemini sadaka verir, bir dirhemiyle de evinin ihtiyacı olan şeyler alırdı.
Medayin'de vali iken Şam'dan bir kimse geldi. Yanında bir çuval incir vardı. Selman?ı Farisi hazretlerini tek bir hırka ile görünce işçi zannetti ' "Gel şunu taşı" dedi. O da çuvalı yüklendi ve yürümeye başladı. Bunu görenler, adama, "Sen ne yapıyorsun bu validir" dediler. Adam, "Kusurumu bağışlayınız, sizi tanıyamadım. Çuvalı indirin" dedi. Hz. Selman; "Hayır niyet ettim gideceğin yere kadar götüreceğim" dedi ve adamın evine kadar götürdü.
Çok sade bir hayat yaşayan Selman?ı Farisi hazretleri, Hz. Osman devrinde hastalandı. Bu sırada kendisini ziyarete gelen Sa'd bin Ebi Vakkas'a artık dünyadan ayrılacağım ve bütün servetinin bir kase (tas), bir leğen, bir kilim ve bir hasırdan ibaret olduğunu söyledi. Kendisini ziyarete gelen Eshab?ı kiram nasihat isteyince, onlara hasta olduğu halde devamlı nasihatte bulunuyordu. Bu hastalığı neticesinde Medayin'de vefat etti.
İlim öğretmeyi çok severdi. Çok âlim yetiştirmiştir. Ebu Said el?Hudri, ibni Abbas, Evs bin Malik, onun talebeleri arasında idi. Tabiinin büyüklerinden ve o zaman Medine'de Fukaha?i Seb'a denilen, yedi büyük âlimden biri olan, Kasım bin Muhammed de Selman?ı Farisi'nin talebelerindendir. Onun derslerinde ve sohbetlerinde kemale gelmiştir.