距离北京较近的附近省份是山东和山西，它们都有许多历史悠久的著名景点。以下是这两个省份中一些热门的历史景点，按照您的要求进行排序：
山东省：
泰山：被誉为五岳之首，是中国著名的名山之一，有着悠久的历史和文化传承。
曲阜孔庙和孔府：孔子的故乡，保存着孔子及其弟子的文化遗迹，是儒家文化的重要象征。
泰安岱庙：供奉神农、黄帝等古代神祇的庙宇，是中国封建社会的代表性建筑之一。
山西省：
平遥古城：保存完整的古城墙、古街、古庙等建筑，展现了明清时期的建筑风貌，是世界文化遗产。
悬空寺：位于恒山脚下，是一座建在悬崖上的古寺，具有悠久的历史和独特的建筑风格。
大同云冈石窟：以其精美的石刻艺术而闻名，是中国古代石刻艺术的杰出代表之一。
这些景点都有着丰富的历史和文化内涵，您可以根据自己的兴趣选择前往。请注意，景点的排名是一种主观的排序，因此您可以根据您的偏好进行进一步的研究和决策。