日本现存超过1700个古迹，其中尤其重要旳古迹还被指定为"特别古迹"。寺院和城迹等200~400年前江户时代遗留下来的古迹数目众多，也有绳文时代以前的部落遗址等历史非常久远的古迹。例如位于青森县的三内丸山遗址，是约5000年前遗留下来的。这些古迹除了具有极高的文化价值，还一并保留了附近的景观。

在近代的大都市东京，也有江户城的城迹等数处历史遗迹。江户城最初建于1457年，其后又进行了扩建和整修。很遗憾的是江户城本体已遭烧毁，现在除了日本天皇陛下居住的皇居御所，还开放了一部分历史遗迹，是很受欢迎的观光景点。此外，文京区的小石川后乐园和汤岛圣堂，中央区的滨离宫恩宠庭园等也非常有名。

世界遗产"古都奈良文化遗产"之一的平城宫迹，展现了日本710年迁都奈良的历史。除此之外，同样是世界遗产的广岛县严岛神社和岩手县的毛越寺也是非常值得一看的古迹。另外，位于栃木県、全长35公里、以世界最长林荫道闻名的"日光杉林荫树"，同时被指定为特别古迹和特别天然纪念物。

历史遗迹之中比较罕见的有北海道函馆市的五棱郭。其建于江户幕府崩解前夕的1866年，属于比较新的古迹。另外，历史遗迹除古坟和城迹以外还包括庭园，其中京都的慈照寺(银阁寺)和鹿阁寺(金阁寺)都被指定为特别古迹。

由于城迹大多占地面积广阔，如果想花时间慢慢看的话最好预留充足时间。此外，寺院和位于山里的古迹有很多凹凸不平的石梯，建议穿着容易行动的鞋子。史迹基本上多位于野外，请小心中暑和自备饮用水。