Flynn Carsen (Noah Wyle), un perpetuo estudiante universitario de 30 años con 22 títulos académicos,[1] es expulsado de la universidad por su profesor, Harris (Mario Iván Martínez), que se encarga de que Flynn obtenga su 23º título a mitad de curso. Acaba de terminar una maqueta a escala 1/20 de la gran pirámide, completa con una piedra de coronación de oro. Pasarán meses antes de que pueda apuntarse a otra clase. Le dice a Flynn -que no conoce los nombres de sus compañeros- que le falta experiencia en la vida real y que necesita ver la vida fuera de la universidad. La madre de Flynn, Margie (Olympia Dukakis), dice lo mismo. Está constantemente preocupada por su hijo y le anima a conseguir un trabajo, a encontrar una esposa y a ser feliz.

Flynn recibe una misteriosa y mágica invitación para entrevistarse "para un prestigioso puesto" en la Biblioteca Pública Metropolitana. Poco después de su extraña pero exitosa entrevista con la administradora de la biblioteca, Charlene (Jane Curtin) -y una pregunta vital de una voz incorpórea-, el dueño de la voz, Judson (Bob Newhart), le muestra la verdadera Biblioteca. El cargo de bibliotecario existe desde hace miles de años. Su función es proteger los objetos históricos y a menudo mágicos almacenados en un vasto espacio secreto muy por debajo de la biblioteca "real". Los objetos de los que Flynn es responsable incluyen la Caja de Pandora, el Rayo de la Muerte de Tesla, el Santo Grial, el cadáver transmutado del Rey Midas, el Arca de la Alianza, el Vellocino de Oro, un unicornio vivo, la Gallina de los Huevos de Oro, Excalibur, la Mona Lisa original (en la película la versión del Louvre es una copia), el prototipo original de bomba atómica "Little Boy", un jet pack que funciona, la alfombra voladora de Alí Babá y la Lanza del Destino.

Flynn descubre que el trabajo implica más de lo que esperaba cuando una de las tres partes de la Lanza del Destino es robada por una secta conocida como la Hermandad de la Serpiente, liderada por el antiguo bibliotecario Wilde (Kyle MacLachlan), que había fingido su propia muerte. (El público se entera inmediatamente de la implicación de Wilde.) Judson explica que quien tenga la Lanza del Destino completa controlará el destino de todo el mundo (se dice en la película que "Hitler sólo tenía una" pieza de la Lanza). Flynn es el único en la Tierra que puede localizar las dos piezas restantes y evitar que la Hermandad de la Serpiente posea las tres. Se dirige a la selva del Amazonas, con sólo dos herramientas: su mente y un libro escrito en un idioma no traducido anteriormente llamado "El lenguaje de los pájaros".

En el avión, Flynn sufre una emboscada por parte de miembros de la Hermandad de la Serpiente y es rescatado por una mujer que le obliga a salir del avión en pleno vuelo. Una vez que aterrizan, descubre que su salvadora, Nicole Noone (Sonya Walger), ha sido enviada por Judson. Ella trabaja para la Biblioteca en el papel que luego se define como Guardián. Se enamoró del último Bibliotecario y se culpa de su muerte. Se resiste a tener sentimientos amistosos hacia Flynn. Mientras los dos viajan por la selva amazónica, se encuentran con cascadas, cazadores de cabezas, derrumbes de puentes y trampas mortales mayas, a las que consiguen sobrevivir con poca dificultad gracias a los amplios conocimientos de Flynn y a la destreza física de Nicole. Recuperan la segunda pieza de la lanza e inmediatamente son capturados por la hermandad y Wilde, que está a punto de disparar a Nicole cuando Flynn se pone delante de ella. Hace un trato para encontrar la última pieza de la lanza a cambio de la vida de Nicole. Se dirigen a Shangri-La, en el Himalaya.

En Shangri-La, se enteran de que su llegada ha sido profetizada. Flynn recupera la última pieza de la lanza, la hoja, y el templo comienza a derrumbarse. Los monjes luchan contra la Hermandad de la Serpiente y Flynn y Nicole escapan en un helicóptero, que él pilota de forma un tanto errática, utilizando sus conocimientos sobre libros. Llegan a un hotel, donde Nicole pide champán y le pregunta a Flynn si ha leído muchos libros sobre cómo hacer el amor. A la mañana siguiente, Flynn se despierta y descubre que han desaparecido Nicole, la hoja de la lanza y su ropa. Judson se pone en contacto con él a través de un televisor en el vestíbulo del hotel, y cuando le describe las condiciones necesarias para unir las partes de la lanza -una pirámide de piedra con tapa dorada, aumentada por un potente campo electromagnético durante la luna llena- Flynn se da cuenta de que el profesor Harris está en el plan. Le dice a Judson que llame a los marines, que va a volver a casa.

Judson se reúne con él fuera del edificio de la universidad donde se reconstruyó la pirámide, y cuando Flynn pregunta dónde están los marines, Judson muestra un tatuaje y responde "¡Semper Fi!". Observan cómo los Hermanos Serpiente, incluido Harris, se reúnen para ver a Wilde invocar los antiguos poderes y fundir la lanza en uno solo. Nicole es su prisionera. Después de que Judson mate a un esbirro, le dice a Flynn: "Yo también fui bibliotecario, ¿sabes?". Wilde apuñala a uno de sus hombres, absorbiendo su fuerza vital a través de la lanza, y se lanza a por Nicole. Flynn lo ataca y libera a Nicole. Nicole y Judson se enfrentan a la Hermandad mientras Flynn sigue a Wilde, que intenta matarlo. Cuando la lanza golpea la piedra, la pirámide tiembla. Al darse cuenta de lo que está ocurriendo, Flynn lleva a Wilde a dañar las piedras de soporte, trastornando la estructura precariamente equilibrada. La piedra de coronación cae entonces sobre Wilde, matándolo. Judson y Nicole se encuentran en una habitación llena de personas inconscientes. Flynn reclama la lanza en nombre de la Biblioteca, donde se exhibe cerca de Excalibur. Flynn saca la espada de su piedra. Judson y Charlene le muestran el último retrato en la galería de los Bibliotecarios: Flynn, sosteniendo la Lanza. "Espero que hayas guardado los recibos", dice Charlene.

Tres meses después, Flynn está en un café hablando con su madre sobre su nuevo trabajo en la biblioteca pública y su novia, Nicole, que llega de repente en moto y besa a Flynn, que le presenta a su madre. Nicole le informa de que la "Liga del Escorpión Mortal" ha conseguido la Máquina del Tiempo de H. G. Wells (una máquina del tiempo real, y no el libro). Mientras Flynn se pregunta en voz alta por qué tantos grupos malvados tienen nombres de insectos, se van, perseguidos por cuatro miembros de dicha secta.