刀或者是雙刃的劍、槍、弓箭、相撲等武道，皆記載在日本最古老的書籍「古事記」之中。七世紀時有訓練武士騎馬的公共組織。到鐮倉時代（1192年-1333年）中期為止，一對一戰鬥曾為主流，但在1274年左右開始的蒙古帝國的襲擊中，日本習以為常一對一戰鬥的戰術發揮不了作用，自此以來戰爭轉變為集團式的模式。隨著海外貿易的繁盛，火槍也應用至戰爭中，「火炮術」等也成為武藝的一種。就像這樣，「武藝」在時代或環境中種類逐漸廣泛。

進入江戶時期後，武藝所追求的不只有現實戰鬥中的實用性，也開始追求「鑽研精髓，鍛鍊精神」的目的。隨著各式道場發展，武道漸漸成為一種禮儀形式作法，就算是不用上戰場的武士，也必須視其為「修養」而上武藝道場學習武藝。

在日本邁向近代化的1868年之前所存在的武道，被稱為「古武道」。大多數的武藝傳統皆來自於古武道。古武道除了「劍術」、「弓術」、「柔術」等以外，還有游泳的「水術」、忍者的、「手裏劍術（飛鏢術）」等等。現代武術發展過程中，「劍術」演化成「劍道」、「弓術」演化成「弓道」、「柔術」演化成「柔道」。到了近代，武藝不光只在日本還擴展到世界各處，不再只是以戰鬥技巧之姿存在，身為運動的一種的含義也逐漸重要。

武藝除了鍛鍊精神的方法外、也包含有祭祀的意思。在日本自古以來的宗教「神道教」中，對神明的供奉──「奉納」就是透過武藝進行的。以神道教為基本的武道的其中一種就是相撲。在日本的神話中，也有神明們相互角力投擲的描寫，一般認為這個神話就是相撲的起源。其他還有騎在馬背上射箭的「流鏑馬（YABUSAME）」等等也都是在神社舉行的供奉。

所謂的「忍術」，是一種從室町時代（1338年-1573年）開始進行的間諜活動技術。現在世界所認知的忍者形象都是受到電影、動畫或漫畫等日本文化的影響而有，其實「身穿全黑服裝」或「隱形」等設定都是近代為其加上的。雖然現代仍存在有「天真正傳香取神道流」或是「伊賀流」、「甲賀流」等忍術的流派或道場，但所謂的「忍者學校」在日本並不常見。

在日本的國中小學裡，都有可以學習「相撲」、「柔道」、「劍道」的活動，學生們可以自由參加。另外，也有以為了傳承傳統的古武術為目的的團體，像是「日本武道館」及「日本古武道協會」；或者研究古武術與現代武術的「日本武道學會」等不只一個的團體存在。