En San Francisco, en 1941, los investigadores privados Sam Spade y Miles Archer conocen a una posible clienta, Ruth Wonderly. Ella dice estar buscando a su hermana desaparecida, que huyó de su casa en Nueva York y vino a la ciudad con un hombre llamado Floyd Thursby. Archer acepta ayudarla a recuperar a su hermana. Sin embargo, esa misma noche, la policía informa a Spade de que Archer ha sido asesinado. Spade intenta llamar a su cliente al hotel y descubre que se ha marchado. De vuelta a su apartamento, es interrogado por el detective de policía Tom Polhaus y el teniente Dundy, quienes le informan de que Thursby fue asesinado esa misma noche. Dundy sugiere que Spade tuvo la oportunidad y el motivo para matar a Thursby, quien probablemente mató a Archer.

Esa misma mañana, Spade se encuentra con Wonderly, que ahora se hace llamar Brigid O'Shaughnessy y confiesa que su historia es inventada. Sin embargo, convence a Spade para que investigue los asesinatos y le revela que Thursby era su pareja. Él se aprovechó de ella y probablemente mató a Archer, pero ella afirma no tener ni idea de quién mató a Thursby. En su oficina, Spade se encuentra con Joel Cairo, que primero le ofrece 5.000 dólares por encontrar una "figura negra de un pájaro". Cuando Spade se muestra escéptico, Cairo le apunta con una pistola y registra la habitación en su busca. Spade noquea a Cairo y registra sus pertenencias. Cuando Cairo vuelve en sí, contrata a Spade.

De camino a visitar a O'Shaughnessy más tarde esa noche, Spade es seguido por un joven pero consigue evadirlo. Cuando le habla a O'Shaughnessy de Cairo, su nerviosismo indica que le conoce. Organiza un encuentro entre ambos en su apartamento, donde Cairo se agita cuando O'Shaughnessy le revela que el "Gordo" está en San Francisco. Cuando Spade acude al hotel de Cairo por la mañana, descubre a Wilmer Cook, el joven que le había seguido antes. Wilmer trabaja para Kasper Gutman, el "Gordo". En la suite del hotel, Gutman le cuenta la historia del Halcón Maltés y le ofrece a Spade 25.000 dólares por el pájaro y otros 25.000 tras su venta, es decir, una cuarta parte de los beneficios obtenidos.

Spade se desmaya porque su bebida está adulterada. Wilmer y Cairo llegan de otra habitación y se marchan con Gutman. Al volver en sí, Spade registra la suite y encuentra un periódico con la hora de llegada del carguero La Paloma marcada con un círculo. Se dirige al muelle, donde encuentra el barco en llamas. Más tarde, el capitán del barco, Jacoby, recibe varios disparos y entra tambaleándose en el despacho de Spade antes de morir. El paquete que llevaba en las manos contiene el Halcón Maltés. O'Shaughnessy llama a la oficina, da una dirección y luego grita antes de que la línea se corte.

Spade esconde el paquete en la terminal de autobuses y luego va a la dirección, que resulta ser un solar vacío. Spade regresa a casa y descubre a O'Shaughnessy escondida en un portal. La lleva dentro y encuentra a Gutman, Cairo y Wilmer esperándole con las armas desenfundadas. Gutman ofrece a Spade 10.000 dólares por el Halcón, pero Spade les dice que parte de su precio es alguien a quien pueda entregar a la policía por los asesinatos de Thursby y el capitán Jacoby, sugiriendo a Wilmer. Tras una intensa negociación, Gutman y Cairo aceptan y Wilmer es noqueado y desarmado.

Justo después del amanecer, Spade llama a su secretaria, Effie Perine, para que le traiga el fajo. Sin embargo, cuando Gutman inspecciona la estatuilla, descubre que es falsa y Wilmer escapa durante el tumulto. Recuperada la compostura, Gutman invita a El Cairo a volver con él a Estambul para continuar su búsqueda. Cuando se marchan, Spade llama a la policía y les dice dónde pueden recoger a la pareja. Spade se enfrenta entonces airadamente a O'Shaughnessy, diciéndole que sabe que mató a Archer para implicar a Thursby, su cómplice no deseado. Ella confiesa, pero ruega a Spade que no la entregue a la policía. A pesar de lo que siente por ella, Spade delata a O'Shaughnessy y presenta la estatuilla como prueba, describiéndola como "la materia de la que están hechos los sueños".