La historia sigue la vida de Ryunosuke Tsukue (Tatsuya Nakadai), un samurái amoral y maestro espadachín con un estilo poco ortodoxo. Ryunosuke aparece por primera vez cuando mata a un anciano peregrino budista al que encuentra rezando por la muerte. Parece no tener sentimientos. Más tarde, mata a un oponente en defensa propia en una competición de esgrima que pretendía ser no letal, pero que se convirtió en un duelo después de que violara a la mujer de su oponente a cambio de tirar el combate y permitir que ganara su marido. Su oponente se entera de la violación antes del combate y aparece dándole a su mujer la carta de divorcio. Su rabia contra Ryunosuke durante el combate le hace lanzar un ataque ilegal después de que el juez proclame el empate, y Ryunosuke, el mejor espadachín, lo esquiva y lo mata de un golpe con su bokken. Ryunosuke huye de la ciudad después de matar al hombre y mata a muchos de los miembros del clan de su oponente, que le atacan mientras se marcha. La ex mujer de su oponente le pide que le acompañe.

Pasan dos años y, para ganarse la vida, Ryunosuke se une al Shinsengumi, una especie de policía semioficial formada por rōnin que apoya al shogunato Tokugawa mediante asesinatos y homicidios. A través de todas sus interacciones, ya sea matando a un hombre o en casa con su amante y su hijo pequeño, Ryunosuke rara vez muestra alguna emoción. Su expresión se fija en una mirada vidriosa que sugiere una locura silenciosa.

Con el tiempo, Ryunosuke se entera de que el hermano menor del hombre al que mató en el combate de esgrima le está buscando, decidido a vengarse. Planea encontrarse con este joven y matarlo, pero antes de que el duelo pueda tener lugar, ocurren dos acontecimientos que sacuden su confianza. En un intento fallido de asesinato, ve en acción a otro maestro de la espada, Shimada Toranosuke (Toshiro Mifune), y por primera vez duda de que su propia habilidad sea realmente imbatible. Esa misma noche, la amante de Ryunosuke, horrorizada por su incesante maldad, intenta matarlo mientras duerme. Ryunosuke la mata en los jardines, ante los ominosos gritos de su hijo dormido dentro de la casa, y huye sin acudir a su cita para batirse en duelo con su perseguidor. Más tarde se reúne con la banda de asesinos en una casa oiran (burdel de cortesanas) en el distrito Shimabara de Kioto. Allí, en una habitación silenciosa (y, según le dicen, encantada), empieza a ver los fantasmas de todas las personas a las que ha matado. Además, le persiguen las palabras de Shimada: "La espada es el alma. Estudia el alma para conocer la espada. Mente malvada, espada malvada". El golpe final llega cuando se da cuenta de que la aprendiz de oiran enviada para entretenerle es la nieta del peregrino al que asesinó al principio de la película.

Al darse cuenta de esto, Ryunosuke parece descender a la locura total. Empieza a acuchillar a las sombras de los fantasmas que le rodean, y luego comienza a atacar a sus compañeros asesinos, que parecen ser cientos. Ryunosuke mata a docenas de miembros de la banda en la casa de la cortesana en llamas mientras le van desgastando poco a poco con las pocas heridas que pueden infligirle. Finalmente, parece que Ryunosuke va a morir; sangrando, con el rostro contorsionado por la rabia, se lanza hacia delante, levanta su espada por última vez y la película termina con un fotograma congelado que capta a Ryunosuke en pleno tajo de espada.