Es posible que te enfrentaste a ChatGPT o otra IA generativa para probar sus conocimientos y encontraste errores en sus respuestas. Se llaman alucinaciones: respuestas inventadas por las IA pero presentadas como hechos. Las alucinaciones de las inteligencias artificiales se documentan desde el lanzamiento de ChatGPT. Si bien su frecuencia ha disminuido con la mejora de los modelos, parecen repuntar desde que estos cuentan con acceso a la web.
Pero ¿por qué ocurren estos errores? El equipo de OpenAI investigó la cuestión en un estudio titulado Why language models hallucinate.
Para ChatGPT, la ignorancia no es una opción
El informe demuestra que las alucinaciones aparecen ya en la fase de pre entrenamiento de la IA. En esa etapa, los modelos aprenden a predecir la palabra siguiente en un texto, lo que les permite dominar la gramática y la ortografía. Sin embargo, para hechos raros o aislados, por ejemplo, una información mencionada una sola vez en un corpus de entrenamiento, no existe un patrón que reproducir: el modelo se ve entonces obligado a adivinar.
Estos errores se acentúan por la forma en que se evalúa a los modelos. En las pruebas de rendimiento, las IA se juzgan por su tasa de respuestas correctas. En ese contexto, cuando un modelo no conoce la respuesta a una pregunta, estadísticamente tiene más posibilidades de obtener una buena puntuación si da una respuesta, aunque sea errónea, que ignorarla.
Imagina un examen de opción múltiple: si no sabes la respuesta pero pruebas suerte, podrían acertar. De la misma manera, cuando los modelos se califican únicamente por precisión, se les incentiva a adivinar en lugar de decir «no lo sé», indica OpenAI.
Revisar la evaluación de los modelos
Para limitar las alucinaciones, OpenAI propone repensar los criterios de evaluación. El objetivo es adoptar una métrica más matizada, que penalice con mayor severidad los errores expresados con seguridad y, al mismo tiempo, valore las abstenciones o las respuestas que expresan incertidumbre.
“No basta con añadir algunas pruebas nuevas que tengan en cuenta la incertidumbre. Las evaluaciones ampliamente utilizadas, basadas en la precisión, deben actualizarse para que su puntuación desincentive las conjeturas. Si los principales paneles de control siguen recompensando las conjeturas afortunadas, los modelos seguirán aprendiendo a adivinar” afirma OpenAI.
En esa línea, OpenAI distingue ahora tres tipos de respuestas para preguntas de respuesta única: respuestas correctas, errores y abstenciones. La abstención se considera una forma de humildad, preferible a una respuesta falsa. Este marco se usó para comparar dos modelos, GPT-5-thinking-mini y o4-mini, con resultados reveladores.
- GPT-5-thinking-mini: el modelo se abstiene con más frecuencia cuando no está seguro de la respuesta. Esto reduce mecánicamente el número de respuestas correctas, pero limita sobre todo los errores. Puede parecer menos eficaz si solo se mira la tasa de respuestas exactas, pero es más fiable porque alucina mucho menos.
o4-mini: por el contrario, el modelo responde casi siempre, incluso en caso de duda. Esto le permite obtener algo más de respuestas correctas en términos absolutos, pero a costa de un número de errores claramente mayor.
