La historia está ambientada en una Inglaterra ficticia que se asemeja a la del siglo XV. Cuando el rey Uther Pendragon muere sin dejar heredero, aparece por arte de magia una espada en un yunque, incrustada a su vez en una piedra, con una inscripción que proclama que quien retire la espada es el legítimo rey de Inglaterra. Nadie consigue quitar la espada, que acaba cayendo en el olvido, dejando a Inglaterra en una situación parecida a la de las Guerras de las Rosas.

Un huérfano de 11 años llamado Arthur, al que le ponen el apodo de Wart, espanta accidentalmente a un ciervo que estaba cazando su hermano mayor de acogida, Sir Kay, lo que hace que éste lance su flecha al bosque. Mientras intenta recuperar la flecha, Arturo conoce a Merlín, un anciano mago que vive con su búho parlante Arquímedes. Merlín se declara tutor de Arturo y vuelve con él a su casa, un castillo dirigido por Sir Ector, padre adoptivo de Arturo y padre de Kay. El amigo de Ector, Sir Pellinore, llega con la noticia de que el ganador del próximo torneo de Año Nuevo en Londres será coronado rey. Ector decide que su hijo Kay sea un concursante, y lo somete a un serio entrenamiento para el torneo. También nombra a Arturo escudero de Kay.

Para educar a Arturo, Merlín se transforma a sí mismo y al niño en peces y nadan en el foso del castillo para aprender sobre física. Arturo es atacado por un lucio y casi devorado, pero es salvado por Arquímedes. Tras la lección, Arturo es enviado a la cocina como castigo después de que intente relatar lo sucedido a unos incrédulos Ector y Kay. Merlín hechiza los platos para que se laven solos y luego lleva a Arturo a otra lección, convirtiéndolos en ardillas para que aprendan sobre la gravedad. La pareja también recibe una lección sobre las relaciones entre hombres y mujeres cuando llaman la atención de dos ardillas hembras amorosas. Vuelven a la forma humana y regresan al castillo de nuevo, donde Ector acusa a Merlín de usar magia negra en los platos, que él y Kay descubrieron e intentaron combatir sin éxito. Arturo defiende desafiantemente a Merlín, pero Ector se niega a escuchar y castiga a Arturo dándole a Kay otro escudero, Hobbs, quitándole a Arturo la posibilidad de visitar Londres.

Resuelto a reparar el daño, Merlín planea educar a Arturo a tiempo completo. Sin embargo, los conocimientos de Merlín sobre acontecimientos futuros, como los trenes, los aviones y la revelación de que la Tierra es redonda, confunden al muchacho, lo que lleva a Merlín a nombrar a Arquímedes como profesor de Arturo. Merlín transforma a Arturo en un gorrión y Arquímedes le enseña a volar. Un halcón persigue a Arturo y éste busca refugio en lo que resulta ser la casa de Madam Mim, una bruja excéntrica y malvada que es la némesis de Merlín. Ella decide destruir a Arturo, pero Merlín llega para rescatarlo. Mim desafía a Merlín a un duelo de magos y, a pesar de las trampas de Mim, Merlín la supera transformándose en un germen e infectándola, ilustrando así la importancia del conocimiento sobre la fuerza.

En Nochebuena, Kay es nombrado caballero. Cuando Hobbs se enferma de paperas, Ector restituye a Arthur como escudero de Kay. La alegría de Arturo por este giro de los acontecimientos hace que Merlín piense que le importan más los juegos de guerra que su educación. Arturo se defiende, y en su enfado Merlín se transporta a las Bermudas del siglo XX.

En el torneo de Londres, Arturo se da cuenta de que ha dejado la espada de Kay en la posada. Encuentra las puertas cerradas, ya que todo el mundo está viendo el torneo, pero Arquímedes se da cuenta de que hay una espada en un cementerio cercano. Arturo, que no conoce la legendaria "Espada en la Piedra", extrae la espada del yunque casi sin esfuerzo, cumpliendo la profecía. Cuando Arturo regresa con la espada, Ector la reconoce y el torneo se detiene. Ector vuelve a colocar la espada en su yunque, exigiendo a Arturo que demuestre que la ha sacado. Kay intenta tirar él mismo de la espada primero, lo que hace que los otros caballeros insistan en que se le dé a Arturo una oportunidad justa. Arturo vuelve a tirar de ella, revelando que es el legítimo rey de Inglaterra. Ector se disculpa con remordimiento ante Arturo mientras los caballeros lo aclaman.

Más tarde, el recién coronado rey Arturo se sienta en la sala del trono con Arquímedes, sin sentirse preparado para la responsabilidad de gobernar. Merlín regresa de sus vacaciones en las Bermudas y resuelve ayudar a Arturo a convertirse en el gran rey que ha previsto.