En 1954, nueve años después de la guerra del Pacífico, Nick Lowell es el único preso no japonés en una cárcel de Osaka. La mayoría de sus compañeros son criminales de la yakuza, reconocibles por sus tatuajes irezumi. Nick salva a un yakuza llamado Kiyoshi de morir en la horca; los Shiromatsu, un clan yakuza al que pertenece Kiyoshi, le devuelven su deuda gestionando la liberación de Nick. También se le ofrece un trabajo: Anthony Panetti, un empresario estadounidense con un profundo odio hacia los japoneses, se ha negado a negociar un trato con los Shiromatsu, pero ha aceptado un trato con otro clan, los Seizu, porque han enviado a un negociador estadounidense. Nick va a hablar con él, pero acaba golpeando violentamente a Panetti en la cabeza con una máquina de escribir apenas un minuto después de la conversación, asegurando a Kiyoshi que lo reconsiderará.

Cuando un grupo de miembros del clan Seizu llega desde Kobe para intimidar a los Shiromatsu en su club nocturno, Nick ataca a uno de ellos, casi provocando un tiroteo. Kiyoshi se encariña con Nick y le da un apartamento caro para vivir y un traje para vestir. Además, le encarga a Nick que lleve a su hermana Miyu, que está borracha, a su casa después de pillarla de fiesta en el club Shiromatsu. Nick pasa la noche con ella y poco a poco se involucra más con el clan Shiromatsu, convirtiéndose en uno de sus ejecutores junto a Kiyoshi. Continúa su relación con Miyu y se hace un tatuaje irezumi en la espalda a juego con el de ella.

Los Shiromatsu sufren la presión de las familias yakuza rivales, en gran parte debido a la negativa del anciano patriarca Shiromatsu a adaptarse a los rápidos cambios de la economía de posguerra. Kiyoshi envía a Nick al puerto para encargarse de un negocio de armas en el mercado negro, donde es emboscado por cuatro miembros de los Seizu, matando a dos. Para evitar una guerra con los Seizu y como disculpa a su patriarca, Nick y Kiyoshi realizan un acto de yubitsume. Las puntas de los dedos cortadas son enviadas al patriarca Seizu, que las acepta. Nick es llevado a un templo rural, donde se convierte en miembro de pleno derecho de los Shiromatsu mediante una ceremonia de iniciación.

Durante un concurso de sumo, las dos familias se reúnen y el patriarca Seizu ofrece a su homólogo la posibilidad de retirarse en paz absorbiendo a los Shiromatsu; el patriarca se niega y le amenaza.

Mientras camina hacia su casa, Nick es reconocido por Paulie Bowers, un marine estadounidense de permiso. Paulie comenta que Nick, su antiguo capitán, fue dado por muerto por los marines tras ser buscado para un consejo de guerra. Cuando Paulie intenta chantajear a Nick, lo atrae a su apartamento y lo mata.

Nick se entera de que Miyu fue agredida por su antiguo amante Orochi, un compañero yakuza, pero Miyu le impide vengarse diciéndole que está embarazada. Nick va a casa de Kiyoshi y le revela su relación con su hermana. Al decirle a Nick que ahora es responsable de mantener a Miyu a salvo, Kiyoshi le da un daishō, un par de espadas que significan honor. Los dos hombres entonces entierran el cuerpo de Bowers en el bosque.

Unos días más tarde, Nick salva a su patriarca de morir estrangulado mientras está en la sastrería, pero Kiyoshi muere de un disparo durante su huida. Se hace evidente que la mayoría de los Shiromatsu, incluido Orochi, han traicionado al clan y han desertado a los Seizu. Nick convence al patriarca de que la guerra es la única opción, y participa en el asesinato de varios miembros de los Seizu. El patriarca Seizu convoca conversaciones de paz en el puerto local, que resultan ser una trampa. Orochi mata al patriarca Shiromatsu, y Nick resulta herido por un disparo en la pierna de un francotirador. Poco después, la policía quema el club Shiromatsu.

Sin inmutarse, Nick viaja al dōjō del clan Seizu con la espada de Kiyoshi y exige una oportunidad para matar a Orochi. Orochi se niega a luchar contra él, diciendo que Nick es sólo un gaijin (forastero) y nunca podría ser verdaderamente un yakuza. Cuando Orochi le devuelve su espada, Nick la saca rápidamente y le corta el cuello a Orochi. El patriarca Seizu interviene y le dice a Nick que se vaya ahora que ha vengado a su patriarca. Nick viaja a un apartamento seguro donde ha escondido a Miyu bajo la vigilancia de los pocos miembros de Shiromatsu que quedan. La abraza mientras los yakuza se inclinan reverentemente.