El teniente Kurt Gerstein (Ulrich Tukur), basado en una figura histórica real, es un miembro de las SS que es testigo presencial de las pruebas de gas Zyklon B - que desarrolló - en los campos de Treblinka y Belzec. Horrorizado, primero informa al secretario de la embajada sueca de lo que ha visto. El secretario escucha pero tiene poca influencia sobre los acontecimientos.

Un aliado mucho más poderoso llega en la forma de Riccardo Fontana (Mathieu Kassovitz), un sacerdote jesuita y primo del Papa Pío XII (Marcel Iures). Está conmovido por el intento de Gerstein de advertir al Santo Padre y a la Santa Sede, incluso en nombre de los judíos que están siendo deportados y perseguidos. Riccardo y su propio padre, el anciano Conde Fontana, hacen todo lo posible para notificar al Papa y animarle a condenar firmemente las atrocidades nazis.

Sin embargo, Pío y sus cardenales más cercanos se preocupan de que esto sea peligroso para el Vaticano y la Iglesia misma. No sólo eso, sino que como dice un cardenal, "Condenar a Hitler es condenar a Stalin y antagonizar a nuestros aliados americanos". Los engranajes de la diplomacia son constantemente engrasados mientras los trenes para los campos de concentración retumban cada vez más.

Gerstein mantiene un delicado equilibrio entre su papel para las SS y su relación con el Doctor (Ulrich Muhe) y sus planes secretos para evitar que Zyklon B sea enviado a los campos de la muerte. Todo se desmorona cuando Riccardo hace un último esfuerzo para rogar al Papa que intervenga en favor de los oprimidos: incluso los judíos se convierten al catolicismo en Roma. Incluso los arrestos de estos fieles no obligan a Pío a tomar una acción decisiva.

Disgustado por esto, Riccardo se pone una estrella amarilla (un acto blasfemo) y se sube a un tren con los otros deportados. Gerstein va en una misión de rescate. El Doctor pone a Riccardo a trabajar en los crematorios, y allí el joven sacerdote pierde la gran mayoría de su otrora inquebrantable fe. Riccardo muere prisionero, sacrificándose en lugar de ir a su casa en Roma y someterse a la complacencia de sus superiores en la Iglesia Católica.

Gerstein escribe un informe de todo lo que ha visto y conocido, entregándose a las autoridades francesas y permitiendo que lo tomen prisionero. Muere de un aparente suicidio después de leer un aparte en sus cargos que lo condena por tomar parte en las atrocidades nazis mientras se proclama como un buen cristiano.

El Doctor, protegido por el Papa Pío y la Iglesia, se refugia en el Vaticano y pronto se dirige a Argentina al final de la película.