1850 yılında Güney Arnavutluk'ta Permet'e yakın Fraşıri kasabasında doğan Şemseddin Sami, tımar sahibi Fraşıri ailesinden Halit Bey'in beş oğlundan üçüncüsüdür. İlk eğitimini Bektaşi tarikata ait olan Nasibi Tahir Baba Tekkesinde aldı. Orta öğrenimini bugünkü Yunanistan sınırları içinde kalan Yanya'da ünlü Zosimea Lisesinde tamamladı.
Şemseddin Sami, Arnavutça, Eski ve yeni Yunanca, Fransızca ve İtalyanca'nın yanı sıra Türkçe, Arapça ve Farsça öğrenmiştir. Aile geleneği doğrultusunda Bektaşi geleneğine devam etmiştir.
Şemseddin Sami'nin gazetelerde Türkçenin ıslahı üzerine bir dizi makalesi çıkmıştır. 1899 yılına modern ilkelere göre hazırlanmış ilk Türkçe-Türkçe sözlük olan Kamus-ı Türki'yi yazmaya başlamıştır. 1901 yılında bu büyük eseri yayımladıktan sonra kendini tamamen Türk dili araştırmalarına vermiştir.
1902 yılında Kutadgu Bilik'in ve 1903 yılında Orhun Abidelerinin izahlı çevirilerini hazırladı. Ortaçağ Kıpçakçası hakkındaki eserini bitiremeden 1 Temmuz 1904 yılında Erenköy'deki evibde hayatını kaybetti.
Şemseddin Sami, modern Türk milliyetçiliğinin ilk ve bazı yönleriyle en ilginç biçimi olan Osmanlıcılığın en önemli temsilcilerinden biridir. Aslen Arnavut olduğu ve Arnavut sorunlarıyla yakından ilgilendiği halde, Osmanlı devletinin modernleşerek güçlenmesini savunmuştur.
Bunun için imparatorluğun ortak dili olan Türkçenin önemini vurgulamış, Türkçeyi incelemek, modernize etmek, geliştirmek ve öğretmek alanlarında, sadece kendi çağında değil, tüm dönemlerde emek vermiştir.