En Berlín, un grupo de niños juega a un juego de eliminación en el patio de un edificio de apartamentos, con un cántico sobre un asesino de niños. Una mujer prepara la mesa para el almuerzo, esperando que su hija regrese del colegio. Un cartel de "se busca" advierte de un asesino en serie que se aprovecha de los niños, mientras los padres ansiosos esperan en la puerta de un colegio.

La pequeña Elsie Beckmann sale de la escuela, botando una pelota de camino a casa. Se le acerca Hans Beckert, que está silbando "En la sala del rey de la montaña" de Edvard Grieg. Se ofrece a comprarle un globo a un vendedor ambulante ciego y camina y habla con ella. El lugar de Elsie en la mesa queda vacío, su pelota rueda por un trozo de hierba y su globo se pierde en las líneas telefónicas.

Tras la desaparición de Elsie, la ansiedad se apodera del público. Beckert envía una carta anónima a los periódicos, atribuyéndose los asesinatos de los niños y prometiendo que cometerá otros; la policía extrae pistas de la carta, utilizando las nuevas técnicas de toma de huellas dactilares y análisis de escritura. Bajo la creciente presión del gobierno prusiano, la policía trabaja sin descanso. El inspector Karl Lohmann, jefe de la brigada de homicidios, da instrucciones a sus hombres para que intensifiquen la búsqueda y comprueben los historiales de los pacientes psiquiátricos que acaban de ser dados de alta, centrándose en los que tienen un historial de violencia contra los niños. Realizan frecuentes redadas para interrogar a los delincuentes conocidos, lo que perturba tanto al crimen organizado que Der Schränker (El ladrón de cajas fuertes) convoca a los jefes del crimen de la Ringvereine de Berlín a una conferencia. Estos deciden organizar su propia caza del hombre, utilizando mendigos para vigilar a los niños. Mientras tanto, la policía registra las habitaciones alquiladas por Beckert, encuentra pruebas de que escribió allí la carta y está al acecho para detenerlo.

Beckert ve a una joven en el reflejo de un escaparate y comienza a seguirla, pero se detiene cuando la chica se encuentra con su madre. Se encuentra con otra chica y se hace amigo de ella, pero el vendedor ciego reconoce sus silbidos. El vendedor se lo cuenta a uno de sus amigos, que sigue a Beckert y lo ve dentro de una tienda con la chica. Cuando los dos salen a la calle, el hombre se marca con tiza una gran "M" (de Mörder, "asesino" en alemán) en la palma de la mano, finge tropezar y choca con Beckert, marcando el dorso de su abrigo para que otros mendigos puedan seguirle la pista fácilmente. La chica se da cuenta de la tiza y se ofrece a limpiarla por él, pero antes de que termine, Beckert se da cuenta de que le están observando y huye de la escena, abandonando a la chica.

Al intentar eludir la vigilancia de los mendigos, Beckert se esconde en el interior de un gran edificio de oficinas justo antes de que los trabajadores se marchen por la noche. Los mendigos llaman a Der Schränker, que llega al edificio con un equipo de otros delincuentes. Capturan y torturan a uno de los vigilantes para obtener información y, tras capturar a los otros dos, registran el edificio y atrapan a Beckert en el ático. Cuando uno de los vigilantes activa la alarma silenciosa, los delincuentes escapan por poco con su prisionero antes de que llegue la policía. Franz, uno de los delincuentes, es abandonado en la confusión y capturado por la policía. Alegando falsamente que uno de los vigilantes fue asesinado durante el allanamiento, Lohmann engaña a Franz para que admita que la banda sólo irrumpió en el edificio para encontrar a Beckert y revelar a dónde será llevado.

Los delincuentes arrastran a Beckert a una destilería abandonada para que se enfrente a un tribunal de excepción. Se encuentra con una multitud silenciosa que le espera. Se le asigna un "abogado", que argumenta en su defensa, pero no logra ganarse la simpatía del improvisado "jurado". Beckert pronuncia un apasionado monólogo en el que afirma que no puede controlar sus impulsos homicidas, mientras que los demás delincuentes presentes infringen la ley por decisión propia, y además cuestiona por qué ellos, como delincuentes, se creen con derecho a juzgarle:

¿Qué derecho tienen a hablar? ¡Criminales! Tal vez incluso estéis orgullosos de vosotros mismos. Orgullosos de ser capaces de abrir cajas fuertes, de escalar edificios o de hacer trampas con las cartas. Todo lo cual, me parece, podríais dejarlo fácilmente, si hubierais aprendido algo útil, o si tuvierais trabajo, o si no fuerais unos cerdos tan vagos. ¡No puedo evitarlo! No tengo control sobre esta cosa maligna que está dentro de mí: ¡el fuego, las voces, el tormento!

Beckert suplica que le entreguen a la policía, preguntando: "¿Quién sabe lo que es ser yo?". Su "abogado" señala que Der Schränker, que preside el proceso, es buscado por tres cargos de homicidio y que es injusto ejecutar a un loco. Justo cuando la turba enfurecida está a punto de matar a Beckert, la policía llega para detenerlo a él y a los criminales.

Mientras un panel de jueces se prepara para emitir un veredicto en el juicio real de Beckert, las madres de tres de sus víctimas lloran en la galería. La madre de Elsie dice que "ninguna sentencia devolverá a los niños muertos" y que "hay que vigilar más a los niños". La pantalla se desvanece en negro cuando añade: "Todos ustedes".