北京的历代帝王庙建成于明嘉靖十年，迄今已470多年。《明典汇》记述其兴建始末为：“嘉靖十年（1531年）三月，历代帝王庙成。
庙内正殿崇君，配殿祀臣。但最初奉祀的帝王和忠臣良将并不多，“崇祀只创业之君，从祀惟开国之臣”。虽经清顺治、康熙年间“迭奉钦定增祀”，到雍正初年，也只供奉着二十一位帝王和三十九个功臣的牌位。
历代帝王庙的最大一次更张，是在清雍正年间。事起于康熙皇帝临终前颁布的一道谕旨。康熙六十一年（1722年）十一月，他降旨明确表示：“凡帝王曾在位者，除无道、被弑、亡国之主，此外尽应入朝。即一、二年者亦应崇祀。”这位中国历史上在位时间最长的有为、有道之君，提出了入祀帝王的基本标准，回避了对选择评价入祀帝王功过是非、褒贬好恶的纷争，体现了大历史帝王祭祀观。
雍正二年（1724年），雍正皇帝亲诣庙行礼；雍正七年（1729年），重新修缮了历代帝王庙，增祀了各朝各代的帝王牌位。根据康熙六十一年特颁谕旨，群臣详议后，“旧崇祀帝王二十一位，今增一百四十三位。旧从祀功臣三十九人，今增四十人。朕尊奉先志，重书牌位，诹吉入庙，行祭告之礼。”由此，从中华民族始祖的伏羲氏及炎黄二帝开始，至以后无论汉族还是前后五代、辽金元等各少数民族的历代帝王，都有牌位供奉了，历代帝王庙成为中华民族百代薪火相传、各民族大一统繁衍传承的祖庙。到乾隆二十九年（1764年）又大加修葺，“易盖正殿黄瓦”，高宗纯皇帝亲诣行礼，并御制碑文以记之，真正形成了“中华统绪，不绝如线”的祭祀文化和“共尊炎黄，中华一脉”的祭祀主题，经过续增，供祀的帝王牌位达188个，除清朝自己的皇帝祖宗牌位供奉在太庙外，中国历史上的帝王牌位大都包含在内了，此庙的地位由此更为尊崇。
景德崇圣殿东西两庑配飨历代名臣,并未按照“东文西武”的惯例，东配殿供祀40人，西配殿供祀39人，都是千百年来中国人视之为忠臣良将、民族英雄的人物，其中有今天的人们仍很熟悉的周公、张良、萧何、诸葛亮、赵云、曹彬、范仲淹、司马光、岳飞、文天祥、于谦等。配祀的名臣数量，也能大体反映朝代的兴盛和时间的久长，如周朝有9人，东西汉共有12人，唐代为13人，南北宋合为15人，明朝也有9人。
自历代帝王庙建成，皇家“每岁春、秋仲月，择日致祭。”据有关记载，从明嘉靖十一年至清末的380年间，在此共举行过662次祭祀大典。