Şarlman, 2 Nisan 742 tarihinde doğdu. Şarlman'ın babası Kısa Pepin Frank Krallığı'nın hükümdarıydı. Öldüğünde krallığın topraklarını iki oğlu arasında paylaştırdı. Şarlman, kardeşi Carloman'ın ölümü üzerine tek başına Frankların kralı oldu. Lombardiya ve Saksonya'yı ele geçirerek topraklarına kattı. Batıda Endülüslerle doğuda Avar ve Macarlarla mücadele etti. Büyük savaşlar kazanan Şarlman birçok prensliği, dükalığı ve derebeyliği fethederek kendisine bağladı.
İlk önce Köln'e giderek kendini Alsace-Lorraine, Akitanya, Bretenya, Cenova Kralı ve Bohemya Prensi ilan etti. Daha sonra Aachen'de kendini Amsterdam, Rotterdam, Frizye, Gelderland, Frankfurt ve Münih Kralı ilan etti.
Papa tarafından 25 Aralık 800 tarihinde Roma'da Aziz Petrus Bazilikası'nda tac giydirilerek Kutsal Roma İmparatoru yapıldı. Kurduğu devlet de Batı Roma İmparatorluğu'nun varisi sayıldı.
Kutsal Roma İmparatoru olan Şarlman bugünkü Almanya'yı fethetti. Lombardlar'ı püskürttü, ardından Sakson, Anglo, Cermen ve Got kabilelerinden askerler toplayarak orta büyüklükteki bir orduyla Fransa ve Avusturya'yı fethetti. Böylece Şarlman Roma İmparatoru, Sakson, Frank, Lombard, Anglo, Cermen, Got ve Slav Kralı oldu. Hristiyanlık dinini kılıç ve ateşle Saksonya'ya kabul ettirdi.
Öte yandan Şarlman bir yandan imparatorluğunun siyasal gücünü artırmaya çalışırken, bir yandan da ülkesinin kültürel birikimini zenginleştirmeye çalıştı. Bu amaçla Aachen’da yaptırdığı sarayına Avrupa’ nın birçok ülkesinden aydın ve sanatçıları topladı. Bir saray kitaplığı ile şövalyelerin eğitimi için bir akademi kurdu. Hıristiyanlık’ın yaygınlaşmasını sağlamak amacıyla çok sayıda kilise ve manastır inşa ettirdi. Bunun yanında eski elyazması bilim ve din kitaplarıyla incili yeniden yazdırarak çoğaltılmalarını sağladı.
813 yılında Aachen’da oğlu I. Ludvvig’e taç giydiren Şarlman, 28 Ocak 814 tarihinde hayatını kaybetti.