En la Roma ocupada de 1944, las tropas alemanas de la SS intentan detener a Giorgio Manfredi, ingeniero, comunista y líder de la Resistencia contra los nazis y los fascistas italianos. La casera de su casa de huéspedes le avisa a tiempo para que pueda eludir su captura. Se escabulle a la casa de Francesco, otro combatiente de la Resistencia. Allí se encuentra con Pina, la prometida de Francesco, visiblemente embarazada, que vive en el apartamento de al lado. Al principio sospecha que Giorgio es un policía y le hace pasar un mal rato, pero cuando le aclara que es un confederado de Francesco le acoge en su apartamento para esperarle. Con la ayuda de Pina, Giorgio se pone en contacto con Don Pietro, un sacerdote católico que ayuda a la Resistencia. Giorgio le pide que transfiera mensajes y dinero a un grupo de combatientes de la Resistencia en las afueras de la ciudad, ya que ahora es conocido por la Gestapo y no puede hacerlo él mismo. El sacerdote lo hace de buen grado.

Don Pietro también tiene previsto oficiar la boda de Pina y Francesco al día siguiente. Francesco no es muy religioso, pero prefiere que le case un cura patriota antes que un funcionario fascista; la devota Pina, por su parte, es pragmática en cuanto a la decisión -ya que sería impensable en tiempos normales que una mujer soltera y embarazada se casara en una iglesia-, pero se pregunta por qué Dios permitiría que le ocurrieran cosas tan terribles a la gente como las que están ocurriendo a su alrededor. Su hijo, Marcello, un monaguillo algo reacio, se relaciona con un joven lisiado que lucha contra su propia resistencia poniendo bombas. Laura, la hermana de Pina, se queda con ella, pero trabaja en un cabaret al servicio de los nazis y los fascistas. También es una vieja amiga de Marina, la novia de Giorgio, que lo ha estado buscando. Marina también trabaja en el cabaret y no sólo ha recurrido a la prostitución para conseguir los lujos que ansía, sino que se ha hecho adicta a las drogas por la traicionera Ingrid, consorte del comandante nazi local, el mayor Bergmann.

Bergmann, ayudado por el jefe de la policía italiana, sospecha que Giorgio está en el apartamento de Francesco. Esa tarde hacen una redada en el enorme edificio, sacando a todo el mundo y deteniendo a decenas de hombres. Giorgio escapa, pero a Francesco lo meten en un camión para llevárselo. Al verle, Pina rompe el cordón de soldados gritando su nombre, pero es asesinada a tiros. El sacerdote, que estaba en el edificio para borrar cualquier rastro de la Resistencia con el pretexto de rezar por un moribundo, la sostiene en sus brazos y reza mientras la primera parte termina.

La Parte II comienza con los varios camiones de prisioneros italianos sacados del edificio de apartamentos en un convoy con vehículos militares, que es atacado por combatientes de la Resistencia. La mayoría de los cautivos parecen escapar. Francesco se reencuentra con Giorgio. Juntos acuden al sacerdote, que se ha ofrecido a esconderlos en un monasterio.

Después, la pareja va a una posada donde vive y trabaja Marina para pasar la noche escondidos. Cuando Giorgio ve cómo vive y descubre sus drogas, discuten por sus decisiones. En busca de venganza por su reprimenda, ella los traiciona a él y a Francesco ante los nazis. A la mañana siguiente, Giorgio, Francesco, Don Pietro y un desertor austriaco al que también ayuda el sacerdote, parten hacia el monasterio. Francesco se queda un poco rezagado y logra escapar cuando el resto del grupo es emboscado por los alemanes, que creen erróneamente que el austriaco es él. Marina es recompensada por Ingrid con un abrigo de piel y más droga.

En el cuartel general de los nazis, Bergmann le cuenta a Ingrid su plan: extraer todo de sus cautivos antes del amanecer para tomar a la Resistencia por sorpresa antes de que la noticia de su captura pueda llegar a ella. A continuación, ofrece indulgencia a Giorgio a cambio de su traición. Giorgio se niega y es llevado para ser torturado. El austriaco, que ya ha dado muestras de cobardía ante la perspectiva del interrogatorio, se ahorca en su celda. La Gestapo asalta a Giorgio en oleadas con látigos y un soplete, en vano.

Estresado por el plazo que se ha fijado, Bergmann intenta a continuación convencer a Don Pietro de que utilice su influencia sobre Giorgio para que traicione su causa, diciendo que es un ateo y comunista enemigo de la Iglesia. Don Pietro responde plácidamente que todo aquel que se esfuerza por llevar una vida recta está haciendo la obra de Dios. Bergmann obliga entonces a Don Pietro a asistir a la tortura de Giorgio. Cuando Giorgio muere sin revelar nada, Don Pietro bendice su cuerpo y lo encomienda a la misericordia de Dios. La negativa de Giorgio a ceder sacude la confianza de los alemanes, incluido Bergmann, que se había jactado de ser la "raza superior" y de que nadie de una "raza esclava" podría resistir su tortura.

Marina y un oficial alemán que había hablado mal del Reich a Bergmann antes en el club de oficiales llegan a la escena borrachos. Cuando ella ve que Giorgio ha rechazado el trato de Bergmann y se ha dejado torturar hasta la muerte, se desmaya. El jefe de la Gestapo e Ingrid deciden que ya no les sirve y ordenan que la encierren. Ingrid le quita el abrigo que Marina le había puesto sobre los hombros, diciendo que lo volverá a usar con el "próximo".

Por la mañana se llevan a Don Pietro para ejecutarlo. Los monaguillos de la parroquia y los resistentes se presentan y comienzan a silbarle su melodía de señal. Don Pietro se queda sin vista desde que se le rompieron las gafas al ser arrojado bruscamente a una celda al llegar al cuartel general nazi, pero se anima al reconocer el homenaje de los chicos. Un pelotón de fusilamiento italiano se prepara para disparar, pero la mayoría no apunta bien, pues no quiere matar a un sacerdote. Disparan. Al ver que Don Pietro, apenas herido, sigue murmurando oraciones, el oficial alemán que preside el pelotón, el mismo que la noche anterior había denunciado al comandante Bergmann la inutilidad de la obsesión nazi por dominar el mundo, saca su pistola y acaba con el sacerdote de forma compasiva, murmurando con desdén su participación en la "raza superior".

Los muchachos inclinan la cabeza en señal de dolor y luego se alejan lentamente, con la ciudad de Roma y la Basílica de San Pedro claramente visibles en el fondo.