Tres años después de los sucesos de Vietnam, John Rambo se ha instalado en un monasterio tailandés y ayuda en las obras de construcción del recinto. También gana dinero (que dona al monasterio) compitiendo en combates de krabi-krabong (con palos de lucha) en la cercana Bangkok. El coronel Sam Trautman visita a su viejo amigo y aliado Rambo, y le explica que está reuniendo un equipo de mercenarios para una misión patrocinada por la CIA para abastecer a los muyahidines y a otras tribus mientras intentan repeler al ejército soviético en Afganistán. A pesar de que le muestran fotos de civiles sufriendo a manos del ejército soviético, Rambo se niega a unirse, ya que está cansado de luchar. Trautman procede de todos modos y es emboscado por las fuerzas enemigas cerca de la frontera, lo que provoca la muerte de todos sus hombres. Trautman es capturado y enviado a una gran base de montaña para ser interrogado por el coronel soviético Zaysen y su secuaz el sargento Kourov.

El funcionario de la embajada Robert Griggs informa a Rambo de la captura del coronel Trautman, pero se niega a aprobar una misión de rescate por temor a involucrar a los Estados Unidos en la guerra. Consciente de que Trautman morirá de otro modo, Rambo obtiene permiso para emprender un rescate en solitario con la condición de que será desautorizado en caso de captura o muerte. Rambo vuela inmediatamente a Peshawar, Pakistán, donde pretende convencer al traficante de armas Mousa Ghani para que lo lleve a Khost, la ciudad más cercana a la base soviética donde Trautman está cautivo.

Los muyahidines del pueblo, dirigidos por el jefe Masoud, dudan en ayudar a Rambo a liberar a Trautman. Mientras tanto, un informante soviético al servicio de Ghani informa a los soviéticos, que envían dos helicópteros de ataque para destruir el pueblo. Aunque Rambo consigue destruir uno de ellos con una ametralladora pesada DShK, los rebeldes se niegan a seguir ayudándole. Ayudado únicamente por Mousa y un joven llamado Hamid, Rambo ataca la base e inflige importantes daños antes de verse obligado a retirarse. Hamid, al igual que Rambo, resulta herido durante la batalla y Rambo los despide a él y a Mousa antes de reanudar su infiltración.

Evadiendo hábilmente la seguridad de la base, Rambo alcanza y libera a Trautman justo cuando está a punto de ser torturado con un lanzallamas. Él y Trautman rescatan a otros prisioneros y secuestran un helicóptero de combate Hind para escapar de la base. El helicóptero resulta dañado durante el despegue y se estrella rápidamente, obligando a los fugitivos a huir a pie por la arena. Un helicóptero de ataque persigue a Rambo y Trautman hasta una cueva cercana, donde Rambo lo destruye con una flecha explosiva. Un furioso Zaysen envía comandos Spetsnaz bajo el mando de Kourov para matarlos, pero son rápidamente rechazados y asesinados. Un Kourov herido ataca a Rambo con sus propias manos, pero es vencido y muerto.

Mientras Rambo y Trautman se dirigen a la frontera pakistaní, Zaysen y sus fuerzas los rodean. Pero antes de que el dúo sea arrollado, las fuerzas muyahidines de Masoud atacan a los soviéticos en una carga de caballería por sorpresa. A pesar de estar herido, Rambo toma el control de un tanque y lo utiliza para atacar el helicóptero de combate Hind de Zaysen en una batalla frontal en la que ambos vehículos disparan ráfagas de ametralladora de alto calibre, Rambo disparando el cañón principal del tanque y Zaysen soltando andanadas de cohetes y misiles de alto explosivo del Hind. En la carga final los dos vehículos chocan, pero Rambo sobrevive tras disparar el cañón principal del tanque después de chocar con el Hind de Zaysen. Al final de la batalla, Rambo y Trautman se despiden de los muyahidines y abandonan Afganistán.