Masao, que vive solo con su abuela en una antigua zona de Shitamachi, en Tokio, recibe un paquete y, al buscar un sello, encuentra una foto de su madre perdida hace tiempo. Encuentra su dirección en Toyohashi, a varios cientos de kilómetros al oeste. Al salir de casa para ver a su madre, conoce a los vecinos de su abuela, Kikujiro y su esposa. La mujer de Kikujiro obliga a Kikujiro a acompañar a Masao en un viaje para ver a su madre, diciéndole a la abuela de Masao que van a la playa.

Al principio de su viaje, Kikujiro no se toma en serio la idea de llegar a Toyohashi. Se enfrasca en carreras de ciclismo de pista y se juega sus ganancias. Más tarde, a la salida de un restaurante de yakitori, Masao se encuentra con un maltratador. Tras escapar por los pelos, Kikujiro promete seguir el viaje y llevar a Masao con su madre. Cuando el taxi que roba Kikujiro se avería, se ven obligados a hacer autostop hasta Toyohashi, conociendo a varias personas por el camino. Consiguen que les lleve una malabarista y su novio en una cita, y un poeta ambulante que les lleva a Toyohashi. Cuando finalmente llegan a la dirección de la madre de Masao, Kikujiro la encuentra viviendo como ama de casa con otro hombre y su hija. La madre de Masao lleva una vida completamente diferente a la que él esperaba. Es casi como si se hubiera olvidado de él. Kikujiro le dice a Masao que acaba de mudarse, fingiendo no haberla visto. Intenta consolar a Masao con una pequeña campana azul con forma de ángel que le han regalado dos moteros con los que se ha cruzado.

Masao está tan decepcionado que Kikujiro no puede evitar intentar alegrar su viaje de vuelta a Tokio. Le dice que un ángel vendrá al son de la campana.

Visitan un matsuri de verano celebrado en un santuario sintoísta local. Mientras Kikujiro se mete en problemas con unos yakuzas por un juego de disparos arreglado, Masao sueña con tengu que bailan.

De vuelta a la carretera, se encuentran de nuevo con el poeta y los dos moteros. Deciden acampar unos días juntos. Masao disfruta jugando con ellos a algunos juegos tradicionales.

Kikujiro se acuerda de su propia madre (se da a entender que ella, al igual que la madre de Masao, también lo abandonó cuando era niño). Kikujiro consigue que uno de los motoristas le lleve desde su campamento a la residencia de ancianos de su madre en Daito-cho, una pequeña ciudad rural, pero finalmente decide no verla y regresa al campamento.

Los hombres siguen haciendo todo lo posible para entretener a Masao haciendo bromas durante unos días más. Antes de regresar a Tokio, Masao sueña con que aparecen sobre la Vía Láctea. Por la mañana, los motoristas se despiden de ellos y abandonan el campamento. Masao y Kikujiro consiguen que les lleven en el coche del poeta a Tokio. Tras dejarlos en un puente, el poeta continúa su camino hacia Osaka y Kyūshū.

Antes de que Masao y Kikujiro se separen, Kikujiro dice: "Volvamos a hacerlo alguna vez", y Masao le da las gracias. Kikujiro le dice a Masao que cuide de su abuela. Masao pregunta el nombre de Kikujiro y éste le responde: "¡Kikujiro! Ahora lárgate". Masao pasa por un pequeño puente en el que suena la campana del ángel.