Карл родился в 742 году, вероятно, около города Аахен, который впоследствии стал его столицей. Его отцом был Пипин Короткий, а дедом Карл Мартелл, великий вождь франков, чья победа в 732 году в битве при Туре предотвратила попытку мусульман завоевать Францию. В 751 году Пипин был объявлен королем франков, положив, таким образом, конец слабой Меровингской династии и основав новую династию, которую сейчас называют каролингами в честь Карла Великого. В 768 году Пипин умер, и государство франков было разделено между Карлом и его братом Карломаном. К счастью для первого и для объединения франков, Карломан неожиданно умер в 771 году. В возрасте двадцати девяти лет Карл остался единственным правителем королевства франков, которое уже стало сильнейшим в Европе.
При вступлении Карла на трон государство франков состояло в основном из территорий современных Франции, Бельгии и Швейцарии плюс значительные владения в современной Голландии и Германии. Карл не стал тратить время и принялся за расширение своих границ. Вдова Карломана с детьми сбежала в Ломбардию, королевство на севере Италии. Карл развелся со своей женой из Ломбардии Дезидератой и повел свою армию в северную Италию. К 774 году это королевство было завоевано. Северная Италия присоединилась к владениям Карла, хотя ему потребовались еще четыре вторжения, чтобы укрепить там свое господство. Вдова Карломана с детьми попала в его руки, и с тех пор их никто больше не видел. Возможно, более важным и определенно более трудным оказалось завоевание Карлом Саксонии, большого района в Северной Германии. Оно потребовало ни много, ни мало — восемнадцати кампаний. Первая в 772 году, а последняя в 804. Частью причин, по которым войны с Саксонией отличались упорством и кровопролитием, были религиозные факторы. Саксонцы были язычниками, и Карл стремился всех их обратить в христианство. Тех, кто отказывался креститься или потом возвращался к язычеству, предавали смерти. По некоторым оценкам, в процессе этого насильного обращения в христианство погибла четверть населения страны.
Карл также вел кампании на юге Германии и на юго-западе Франции, чтобы установить свой контроль над этими регионами. С целью обезопасить восточные границы своей империи он вступил в ряд войн против аваров. Это был азиатский народ, владевший территорией современных Венгрии и Югославии. В конце концов Карл победил их. Хотя земли восточной Саксонии и Баварии не были заняты франками, другие страны, признававшие их власть, протянулись широкой полосой от восточных областей Германии до Хорватии. Также Карл старался обезопасить свои южные границы. В 778 году он вторгся в Испанию. Кампания оказалась неудачной, но он все же смог основать на севере Испании приграничное государство, которое признало его верховную власть. В результате своих многочисленных успешных войн (франки провели пятьдесят четыре кампании за сорок пять лет правления Карла) Карл Великий объединил большую часть Европы под своим руководством. В период расцвета его империя включала большие части территорий современных Франции, Германии, Швейцарии, Австрии плюс часть Италии и различные приграничные районы. Со времени падения Римской империи так много европейских территорий никогда не находилось под контролем одного государства.
За все время своего правления Карл установил тесный политический альянс с папством. Но все время было очевидно, что Карл, а не папа, был доминирующим партнером в этом союзе. Высшей точкой или, по крайней мере, самым знаменитым событием при его правлении считается событие, происшедшее в Риме на Рождество в 800 году. В тот день папа Лев III возложил на голову Карла корону и объявил его римским императором. В принципе это означало, что Западная Римская империя, разрушенная более трех веков назад, была реставрирована, и что Карл стал теперь законным преемником Августа Цезаря. На самом деле, конечно, нелепо было считать, что империя Карла являлась реставрированной Римской империей. Прежде всего, территории этих двух империй сильно отличались друг от друга Владения Карла, какими бы обширными они ни были, включали только половину территории Западной Римской империи. Общий для двух империй регион включал Бельгию, Францию, Швейцарию и северную Италию. Но Англия, Испания, южная Италия и Северная Африка находились вне пределов власти Карла, в то время как Германия, которая представляла собой важную часть его владений, никогда не находилась под римским правлением.