도와 양날 검, 창, 활, 스모와 같은 무도는 일본에서 가장 오래된 서적인 「고사기(古事記)」에도 기재되어 있다. 7세기경에는 사무라이가 승마를 훈련하는 무도의 공공 조직이 있었다. 가마쿠라 시대(1192년~1333년) 중기 무렵까지 전투란 무사가 1대 1로 싸우는 것이었지만, 1274년경부터 시작된 몽골 제국의 침략으로 기존에 있던 일본의 전술이 통용되지 않게 되었고, 그 이후의 전투도 집단을 끌어들이는 것으로 변화했다. 그리고 해외와의 교역이 왕성해지자, 전쟁에는 총이 이용되고 포술이 새로운 무도로 탄생했다. 이러한 시대와 정세의 변화와 함께 무도의 분야도 다양해졌다.

에도 시대에 들어서자 무도는 전투의 실용성만이 아닌 「도를 닦아, 정신을 단련하자」라는 의미도 포함하게 되었다. 다양한 무도장이 발전함에 따라 무도는 예의범절의 하나로 다루어지게 되어, 전투에 나가지 않는 사무라이도 무도장에 입문하는 것은 필수가 되었다.

일본이 근대화한 1868년 이전의 무도는 고무도라 불렸다. 또 모든 무도의 기본은 고무도로 구성되어 있다. 고무도는 검술, 궁술, 유술부터 헤엄치기 위한 수술(水術), 닌자를 위한 수리검술 등 다양하다. 이 무도들의 발전 과정으로는 검술은 검도가 되고, 궁술은 궁도로, 유술은 유도로 변화해 갔다. 현재, 일본 유도는 세계 곳곳에 보급되고 격투기로서만이 아닌 스포츠로서 널리 알려지게 되었다.

무도는 정신 단련을 위한 격투기로서의 의미를 가질 뿐만 아니라, 신도 의식에도 이용된다. 일본 고유 종교인 신도에서는 무도를 통해 신에게 봉납한다. 신도를 바탕으로 한 무도로 「두드린다(打ちたたく)」는 의미가 있는 스모가 있다. 일본 신화에서는 신이 서로의 팔을 붙잡고, 메치는 묘사가 그려져 있어, 그것이 스모의 기원이라고 여겨지고 있다. 말을 타고 활을 쏘는 유적마(야부사메)도 신에게 봉납하는 의식으로서 신사에서 이루어진다.

인술은 무로마치 시대(1338년~1573년)경부터 행해진 스파이 활동 기술이다. 전 세계에 알려진 검은 복장과 모습을 감추는 이미지의 닌자는 영화와 애니메이션, 만화 등의 근대 문화에 의해 만들어진 것이다. 현재도 천진정전향취신도류(天真正伝香取神道流), 이가류(伊賀流), 고가류(甲賀流) 등의 인술 교실과 무도장은 있지만, 이른바 「닌자 학교」와 같은 것은 그렇게 일반적이지 않다.

일본의 초, 중학교에서는 스모, 유도 혹은 검도를 배우는 활동을 하고 있고, 학생은 임의로 참가한다. 또, 전통적인 고무술을 계승하기 위해 「일본 무도관」과 「일본 고무도협회」 등의 조직 외, 현대 무도를 연구하는 「일본 무도학회」등이 있다.