Kiếm là 1 trong những vũ khí được con người sử dụng nhiều nhất trong thờI phong kiến, khắp nơi từ Âu sang Á. Vũ khí và binh giáp của ngườI Nhật ngày xưa có chịu ảnh hưởng phần nào từ Trung quốc,trong đó có thanh kiếm. Khi xông trận, các kỵ sĩ trang bị áo giáp, mũ trận dày nặng, 1 tay cầm yên ngựa, tay kia cầm kiếm. Thanh kiếm thời đó có hình dạng thẳng, cấu trúc đơn giản, thường dùng để chém và đâm, động tác chiến đấu cũng chưa được tinh xảo. Theo truyền thuyết thì đến thế kỷ thứ 8, thanh kiếm với lưỡi hơi lượn cong, cán dài cấu trúc đặc thù Nhật bản được 1 thợ rèn tên là Amakumi chế tạo tạI tỉnh Yamoto. Song, theo những tài liệu đáng tin cậy hơn, thanh kiếm cong độc đáo như ngày nay chúng ta thấy xuất hiện vào thế kỷ thứ 10 (năm 940) dưới thời Heian do 1 nghệ nhân tài ba về nghề luỵên kiếm tên là Hoki rèn. Đây chính là loại kiếm được sáng tạo và rèn luyện rất công phu, chủ yếu để sử dụng bằng cả 2 tay khi chiến đấu. Đương nhiên, kèm theo đó là 1 số kỹ thuật công, thủ cơ bản cũng được giới thiệu. Nhận thức được sự lợi hại của thanh kiếm mới, nhiều kiếm sư và kiếm sĩ bèn làm 1 cuộc cách tân về vũ khí và chiêu thức tập luyện. Trước tiên nó được dùng trong các buổi giao đấu giữa các kiếm thủ và dần sau đó trở nên phổ biến trong quân độI thuộc quyền các lãnh chúa và dùng trên chiến trường ở qui mô lớn, bởi nó có hiệu quả đặc biệt hơn hẳn loạI kiếm thẳng. Đã có kiếm dài (trường kiếm-tachi, hay còn gọi là katana) thì phải có kiếm ngắn và thanh đoản kiếm (kodachi, hay còn gọi là wakizashi) được chế tạo cũng theo kiểu dáng cong cong tương tự. Kiếm ngắn chỉ sử dụng khi lâm nguy (mất kiếm dài ) và để dùng trong nghi thức seppuku (mổ bụng tự sát, 1 hành động vì danh dự của samurai, hay còn gọi là harakiri)

Có thể nói từ đây môn kiếm thuật Nhật bản Kenjutsu vớI những đặc trưng riêng đã được hình thành. Những kiếm sĩ thành danh thường xây dựng hệ thống kỹ thuật riêng để lập nên những trường phái, rồi cứ thế được lưu truyền từ đời này sang đời khác. Tinh hoa nghệ thuật cũng theo đó dần dần phát triển thêm lên. Tuy nhiên phảI đến cuốI thế kỷ 14, đầu thế kỷ 15, bài tập đốI luyện kiếm thuật (kata) vớI tổ hợp động tác công-thủ-phản công có qui ước mớI được đưa vào hệ thống nghiên cứu huấn luyện.Và vào cuốI thế kỷ 15, kiếm gỗ (bokken) mới được đưa vào sử dụng trong những buổi tập luyện. Thời này lý thuyết chung về kiếm thuật đã được hoàn thiện nhằm mục đích huấn luyện giới samurai. Không chỉ vậy, lý thuyết này còn được kết hợp với tư tưởng Nho giáo để xây dựng 1 triết lý về phong cách sống và hành động của giớI võ sĩ đạo (bushido). Theo 1 số thư tịch cổ thì từ thế kỷ 15-17 trên toàn nước Nhật có khoảng 600 trường phái kiếm thuật, chưa kể các môn võ thuật khác. Những trường phái này cũng là nơi cung cấp nhân tài phục vụ đắc lực cho các vị lãnh chúa hoặc Tướng quân (shogun)

Thế kỷ 16-17 đánh dấu 1 bước phát triển của nghệ thuật sử dụng kiếm. Khởi đầu từ kiếm sư Shekisu-sai (1527-1606), ngườI sáng lập trường phái Yagyu Shinkage, được tướng quân Tokugawa Ieyashu bảo trợ. Trước đó thanh kiếm chỉ được xem như là 1 vũ khí giết ngườI và ngườI ta luyện tập cũng vì mục đích ấy. Nhưng do Shekisu-sai có kiến thức có kiến thức về đạo học và mốI liên hệ gần gũi vớI thiền sư Takuan (1573-1645), ông đã truyền giảng cho môn sinh khái niệm về sự cảm nhận tâm linh đạt được qua việc luyện tập kiếm thuật. NgườI con ông là Munenori (1571-1646), 1 kiếm sĩ tài ba, đã biên soạn Fudochi-Shinmyoroku, nội dung kể về kinh nghiệm trực ngộ Thiền đạo trong kiếm thuật. Yagyu Shinkage, cũng như Maniwa Nen, Shinkatato… là những trường phái tiên phong trong khuynh hướng chuyển từ Kiếm đạo sang Kiếm thuật (Kendo); đồng thờI đưa kiếm tre (shinnai) vào tập luyện, thi đấu để hạn chế tốI đa những thương tích, tử vong do kiếm thật bằng thép và cả kiếm bằng gỗ cứng gây nên. Kiếm tre ban đầu được chế tạo bằng cách dùng 4 mảnh tre dài ghép lạI đút vào 1 cái bao dài bằng da cóc hoặc da bò thuộc,chưa có miếng là chắn che tay (tsuba). Về sau được Nakanishi Chuba,môn đệ của Ono Tadaaki cảI tiến với bao vải thay thế bao da, thêm miếng lá chắn vào, và trọng lượng-kích thước gần bằng kiếm thật, song có hình dạng thẳng

Khởi đầu chỉ có kiếm thuật hay Kenjutsu, là nghệ thuật đánh kiếm, dù thật sự từ để chỉ kiếm Nhật là katana 刀 chính là từ "đao" trong tiếng Hán để chỉ các loại vũ khí một lưỡi sắc bén. Còn chữ Hán kiếm (tiếng Nhật ken) 剣 hay 劍 là để chỉ các vũ khí hai lưỡi . Sau thời đại Kiếm Thương, hết đánh đấm nên kiếm thuật dần dần biến thành kiếm đạo, và người thực tập kiếm đạo chú trọng luyện tinh thần cũng ngang bằng hoặc hơn cả luyện tập thuật đánh kiếm. Iaido đúng ra cũng là một phần của kendo, chuyên luyện phép đánh kiếm thần tốc: rút kiếm ở mọi tư thế và chém rất nhanh một nhát chí tử trước khi đối thủ kịp phản ứng, rồi rảy máu ở thanh kiếm, và tra kiếm vào vỏ.

Sau khi Nhu đạo phát triển vào thế kỷ 20, Kendo và Iaido trở thành những môn riêng biệt. Kendo ngày nay ta thấy phát triển như một môn thể thao, dù người luyện tập cũng thực hành các bài Kata 型 gồm các đòn thế chém đâm đỡ tiến lùi... Còn Iaido chỉ chuyên thực tập các bài tập kata: rút kiếm, chém, rảy máu, tra kiếm vào vỏ. Và ở Nhật vẫn còn hàng trăm trường phái Kendo, cũng như hàng trăm trường phái Iaido.
 

Đến thế kỷ 18, ngoài kiếm tre và sàn tập bằng gỗ trở nên phổ biến tạI các trường phái dạy kiếm, các dụng cụ hỗ trợ luyện tập như giáp che ngực, mặt nạ, mũ che đầu, găng tay bảo vệ… cũng được cách tân từ binh giáp truyền thống để trang bị cho môn sinh. Sang thế kỷ 19, Kendo phát triển rộng trong quần chúng cũng như nhiều môn võ khác, không còn thu hẹp trong giới Samurai. Vào giữa thế kỷ này, nhiều cuộc biễu diễn kiếm đạo được tổ chức cho công chúng xem tại nơi công cộng, có thu tiền. Không ít kiếm sư giương danh võ lâm qua những cuộc lưu diễn và thách đấu với người khác. Nhưng chỉ vài thập niên sau, khi văn minh cơ giớI phát triển. Súng ống, đạn dược nhanh chóng chiếm lĩnh vị trí trên chiến trường. Thanh kiếm oanh liệt suốt bao thế kỷ chỉ còn tồn tại bên người quân nhân với công dụng thứ yếu (đánh giáp lá cà) hoặc như 1 biểu tượng quyền hành chỉ huy. Đồng thời về mặt xã hội, thời điểm các lãnh chúa bị Minh Trị thiên hoàng thu hồi quyền lực cũng chính là lúc kết thúc thờI vàng son của giớI samurai. Những kiếm thủ phải về vườn hoặc chuyển nghề, nhiều môn phái phải đóng cửa. Tình trạng này khiến các bậc thầy tâm huyết vớI kiếm đạo lo âu không ít.