西元1萬2000年前，歷經800年歷史的繩文時代是日本歷史最古老的文化，從繩文時代初期的古蹟可觀察到用繩索押印花紋在土器上的文物出土。這種花紋的紋路就稱作「繩文」，也就是這個時代的名稱。
繩文人的生活以狩獵與採集為主，接下來的彌生時代(西元前300—250年)才開始農耕，利用耕作水田採收稻米為國家帶來了繁榮，日本最初的身份階級地位也是從此時代開始。繩文、彌生時代的日本稱為倭國。

倭國的統治者是以武力決定權力的方式決定的。根據中國古代的文獻可看出，繼持續70年的「倭國大亂」之後，有人認為戰亂的原因在於男性統治者的武力，所以希望有位女性統治者來維持和平。透過占卜方式選出人民心目中年輕的女性統治者卑彌呼。卑彌呼統治的國家稱為邪馬台國，而卑彌呼舉行的「事鬼道」、「能惑眾」的祈禱儀式就是古代神道的由來，她同時身兼女王與巫女(女性祈禱師)的地位。根據中國古代的文獻記錄，邪馬台國在她的領導統治下和平的拓展國家的領土。
關於女王卑彌呼和邪馬台國，到底該王國所在何處至今仍有眾多說法，她也是日本歷史上神秘的存在。

接著日本建立了世界上最古老歷史的君主制國家—大和國。統治者稱為天皇，其後代至今仍延續著日本皇室家譜。西元538年由百濟(現在的韓國)傳來了佛教文化，也開創了飛鳥時代，此時最重要的歷史人物之一是竭力於推展佛教的聖德太子，代理天皇實行國內政治，他曾致書隋朝的皇帝，一段內容談及「日出處國天子致書日落處國天子」的敘述，所以日本國家的名號由此而來。
聖德太子出身於天皇統治之下掌握大權的蘇我氏一族，推廣佛教。不久後蘇我氏延伸勢力，住豪宅，建造巨大墳墓，彷彿統治者一般。在聖德太子過世之後，有派人馬無法繼續忍耐蘇我氏的傲慢，興起了「乙巳之變」的政變，暗殺蘇我氏的代表人物蘇我入鹿。
之後孝德天皇繼續手握朝廷統治權，效法中國哲學，實施法律改格，稱之為「大化革新」。

大化革新只是政治改革的第一步，奈良時代(710-794年)朝庭制定新制度，效仿唐朝(現在的中國)的文獻訂定租稅、兵役、階級以及法律的律令制。如此的奈良時期維持活躍的外交關係，特別是受到中國的影響最大。另外奈良時期有日本歷史最悠久的歷史書籍「古事記」和「日本書記」，這些文獻書籍都證明天皇的權威。
此時期又興建大安寺、興福寺、還有奈良大佛的東大寺等等的寺廟，是佛教興盛的時期。

朝廷到1185年為止都是政治中心，也是藝術、文化的發源地。紫式部所寫的「源氏物語」是世界最早的小說，清少納言所著「枕草子」一書描述風光氣派的朝廷生活，都是這個時代的產物。將牙齒染黑的習慣「黑牙」平假名的音節體系等，很多日本傳統都確定是此時發展出的。象徵性的是宮中朝廷女性之美，將黑髮長長垂下的長髮造型，多層穿搭色彩鮮艷的和服「十二單」。
除了高雅的文化外，朝廷因內部的權力鬥爭漸漸衰敗，貴族們只知玩樂，雖對文化藝術的發展有貢獻，但對於國家行政確有負面的影響。所以在那些只知玩樂貴族之外，武士開始聚集其他貴族，組織民眾，漸漸茁壯伸展勢力。

因為政治不安定，擁有軍事力量的人開始拓展勢力，勃發了天皇皇位繼承的爭奪戰，長久以來握有政權的平氏和有親戚關係積極拓展軍事力量的源氏之間發生了內鬥，該內戰的頂點是著名的「源平合戰」(1180-1185年)。西元1300年記載的「平家物語」描述著悲慘的內戰導致平家沒落的情景。源平合戰結束後，源氏的代表人物-源賴朝成為將軍，開創鎌倉幕府，此時實際上國家的支配權由天皇轉移到將軍手中。但是和平並未就此到來，反而變成是武將們爭奪權力，戰亂的世界。這時的日本稱為將軍時代或戰國時代(1497-1603年)。

戰國時代決定日本命運的武將有三人，他們都擁有眾多家臣，統治著自己的領土。
這個時代戰爭的關鍵在於策略和倒戈。最知名的事件是發生在差一點就可以統一日本的織田信長被家臣明智光秀倒戈暗殺的「本能寺之變」。之後織田的家臣豐臣秀吉處決了明智光秀，繼承了織田信長之位。結果政局並不如明智光秀所設想的那般順利進行。
最後一個反對豐臣政權的是統治小田原地區的北條家。但是也不敵與德川家康聯手的豐臣軍，於小田原城攻城戰時敗陣。統一了日本的豐臣秀吉組織了包含德川家康在內五大有影響力的武將，成立五大老後過世。
1598年，已擁有權力的德川家康攻擊秀吉的兒子居住的大阪城。因此日本國內勢力分為德川家康諸侯勢力和以石田三成諸侯為主的二大勢力。1600年二大政權勢力在「關原之戰」發生衝突，石田大軍中複數名將軍倒戈，德川家康成為霸主。

在德川家康的統帥之下，日本的政治中心由天皇的居住處京都移動到現在的東京--江戶，1603年江戶時代開幕。江戶時代有浮世繪、歌舞伎、和服等世界知名的日本傳統文化在此時發展開來。如此文化開始發揚是因為此時代沒有戰亂、持續和平的生活，大眾百姓自由且充滿活力，衍生出許許多多的自由創新而來的新文化。

1853年在長期和平的江戶時代發生了「開始結束」的重大事件。美國軍人Perry率領軍艦來到鎖國政策的日本。所謂「黑船」是指小型蒸汽船冒出的黑煙，令日本人感到恐懼所給的別稱。
美軍提督來日本的目的是要轉交美國第13任總統米勒得‧菲爾莫德的書信給將軍，希望能要求美日從事貿易協定，突然面臨如此強大的武力威信，江戶幕府不得不答應這個要求，約在一年後，美日間簽定親善條約，結束了長久以來的鎖國政策。但是在這之中還是有人反對此條約，日本又陷入了內亂的時代。

不久之後日本推行尊皇運動，推崇天皇統治，並且排斥「西洋的野蠻人」的攘夷運動。雖然幕府實行軍事鎮壓，但無法平息緊張狀態。接著發生了襲捲全國的戊辰戰爭，擁天皇派官軍獲勝，1868年實行明治維新，撤廢幕府軍事政權的政治改革。
西方文化的流入，為人民生活帶來了各種變化，例如和服變西裝、褲子、連身裙、長裙，漸漸看不到當時的丁髷頭。明治時代是加緊腳步追逐世界文化產業的近代化的時代。

短短數十年間技術急速的進步，日本和西方國家交集漸深。1914年第一次世界大戰時日本和與德國奧匈帝國戰爭的法國、英國、俄國三國協商有實際的協助關係，取得敗戰國德國在太平洋的領土，結果不論在政治上、軍事上也擴大了日本的勢力。
1939年第二次世界大戰，日本和希特勒率領的德國、墨索里尼率領的義大利組成軸心國。雖然奪取到亞洲大部份的土地，最終還是敗給美軍，1945年無條件投降。在經過多年的民主化政策以及美軍的占領之下，於1952年加入西方諸國的陣營。1960年至1970年間高度經濟成長，日本成為世界經濟大國之一，充滿創意的日製產品在世界上取得極高的評價。