13 Ekim 1954 günü İstanbul'da doğdu. Ortaöğrenimini English High School'da (şimdiki Nişantaşı Anadolu Lisesi'nde) yaptı. Lisans öğrenimi için girdiği İstanbul Üniversitesi Hukuk Fakültesi'nden 1976'da mezun oldu.
Daha sonra İngiltere'ye gitti ve 1978'de Cambridge Üniversitesi Downing College'de yüksek lisansını yaptı. Aynı okulda Prof. Dr. Robert Y. Jennings'in danışmanlığında yaptığı doktorasını 1986'da tamamladı.
Doktora sürecinde 1984-85 yıllarında üniversiteler arası değişim programı çerçevesinde Heidelberg Üniversitesi'ne gitti. Heidelberg'te Max Planck Enstitüsü'nün Karşılaştırmalı Kamu Hukuku ve Uluslararası Hukuk Bölümünde bazı çalışmalar yaptı.
Doktorasını tamamladıktan sonra Türkiye'ye döndü ve 1986 yılında İstanbul Üniversitesi Siyasal Bilgiler Fakültesi'nde yardımcı doçent olarak göreve başladı. Aynı fakültede 1993 yılında doçent, 2001 yılında da Uluslararası Kamu Hukuku profesörü oldu. 2002-2005 yılları arasında dekan yardımcılığı yaptı.
1986 yılından beri İstanbul Üniversitesi Siyasal Bilgiler Fakültesi'nde Uluslararası Hukuk dersleri veren Rauf Versan, Kara Harp Okulu'nda da derslere girmektedir.
Babası idare hukukçusu Ord. Prof. Dr. Vakur Versan, amcası ise emekli büyükelçi Veysel Versan'dır. Babasının dedesi, Osmanlı Devleti'nin Yunanistan Sınırı Komutanı Muhlis Paşa'dır.
Daha önce Avrupa İnsan Hakları Mahkemesi'nde ad hoc yargıç olarak görev yapan Prof. Dr. Rauf Versan, 2006 yılında da Birleşmiş Milletler Genel Kurulu Uluslararası Hukuk Komisyonu üyeliğine aday gösterilmiştir.
2001 yılından bu yana İstanbul Üniversitesi Siyasal Bilgiler Fakültesi'nin Uluslararası İlişkiler bölümü Devletler Hukuku kürsüsü başkanlığı yapan Prof. Dr. Rauf Versan, Uluslararası Hukuk alanında Türkiye'deki en yetkin kişilerden biri olarak kabul edilmektedir.