¿Por qué la inteligencia artificial inventa cosas?
Un modelo de lenguaje no busca la respuesta en una lista de datos comprobados. Escribe, pedazo por pedazo, lo que suena más probable. Casi siempre lo probable es lo correcto. Cuando no lo es, la IA presenta como cierto algo que inventó. A eso se le llama alucinar.
Un autocorrector muy grande
El teclado de tu celular te sugiere la siguiente palabra porque vio millones de mensajes. ChatGPT, Claude y Gemini hacen lo mismo a una escala enorme: aprendieron de una parte enorme de internet, de libros y de código.
Cada respuesta se arma un pedazo a la vez. Esos pedazos se llaman tokens. El modelo elige el que tiene más probabilidad de seguir, no el que es verdad. Por eso puede escribir con la misma seguridad un dato real y uno inventado.
Adivinar le conviene
En septiembre de 2025, investigadores de OpenAI y de Georgia Tech publicaron un estudio que lo explica con un examen de opción múltiple. Si dejas la respuesta en blanco, sacas cero. Si adivinas, a veces aciertas.
Casi todas las pruebas que califican a los modelos castigan igual el «no sé» que el error. Así, durante el entrenamiento, adivinar da mejor calificación que admitir que no sabe. El estudio propone cambiar la forma de calificar.
No es un caso aislado
Una base de datos de casos en tribunales registraba 2,246 escritos con citas inventadas por IA al 31 de octubre de 2026. Hay casos parecidos en consultoras, periódicos y gobiernos. Abajo están los que platicamos en el episodio.
Lo que platicamos
JimenaSí, yo creo que también va por ahí, porque sí me he preguntado por qué inventa. Y ya en el 2025 salió este estudio; muchas otras personas se lo preguntaron en OpenAI. Y pues el término es alucinar. La explicación que dieron fue bastante sencilla. Lo hicieron con un examen de opción múltiple: si dejas la respuesta en blanco, sacas cero; si adivinas, a veces aciertas. Y casi todas las pruebas que califican a la IA castigan igual el «no sé» que el error. Entonces es mejor inventarte algo que dejar la respuesta en cero. Y así aprendió que adivinar conviene. Por eso la IA empezó a inventarse cosas, a alucinar. Y esto es también una forma de ver cómo funciona. Ya lo habíamos platicado, ¿no? Que funciona como el teclado de tu celular, que te sugiere la siguiente palabra porque vio millones de mensajes.
CrisSí. En este caso, ChatGPT, Claude y Gemini son precisamente modelos de lenguaje. Hacen esto mismo que tú dices, como el autocorrector, el autosugeridor de la palabra siguiente cuando estás escribiendo en tu cel, pero a una escala ridícula, una escala muy, muy grande. Son datasets muy, muy, muy gigantescos, nutridos en su mayoría de la información pública que había en internet. Entonces, para empezar, hay que saber que la inteligencia artificial probablemente ni siquiera es tal cosa como una inteligencia, o al menos lo que filosóficamente y humanamente hemos intentado y hemos discutido.