Institutionen som tysk-romersk kejsare formades ur det frankiska riket och tog sin början när Karl den store kröntes till kejsare i Rom på juldagen år 800 av påven. Titeln symboliserade den världsliga enheten för den kristna världen, där kejsaren delade makten och ofta låg i maktkamp med den romersk-katolska kyrkan och dess överhuvud, påven.

Under medeltiden och tidigmodern tid valdes kejsaren av ett kollegium av furstbiskopar och världsliga furstar, kända som kurfurstar. Från 1400-talet och fram till rikets upplösning kom kejsarvärdigheten i praktiken att innehas nästan oavbrutet av medlemmar ur Huset Habsburg, vilket gav institutionen dess starkaste fäste i Wien och de österrikiska arvländerna.

Till kejsarens främsta attribut hörde riksregalierna, vilka förvarades i Aachen och senare i Wien, innefattande den kejserliga kronan, svärdet och riksäpplet. Dessa föremål underströk kejsarens heliga ställning och anspråk på universell makt över kristenheten.

Institutionen förlorade sin faktiska makt över de tyska småstaterna under århundradena efter reformationen och trettioåriga kriget. År 1806 lades ämbetet slutligen ned av Napoleon I:s expansion och kejsar Frans II:s avsägelse av kronan, varmed det tysk-romerska riket upphörde att existera.