![Imagen de portada de [Guía de IA #2] Por qué alucina la IA: cómo detectarlo](/assets/images/posts/c6145b61-e8d2-4983-b19d-795cb10e3577/ai-hallucination-1.jpg)
Pedí a la IA que investigara fuentes y me entregó una lista impecable, con títulos y autores de artículos. Al buscarla, descubrí que esos artículos no existían. Si has usado IA, probablemente te haya ocurrido algo parecido. Este fenómeno, por el que la IA presenta información falsa como si fuera cierta, se denomina alucinación. En esta entrega resumimos por qué ocurre, qué respuestas deben generar dudas y cómo reducirla.
Las alucinaciones son un efecto secundario del funcionamiento de la IA, no un error
Como vimos en la primera parte, la IA no es una máquina que encuentra la respuesta correcta, sino una que genera la siguiente palabra plausible. Pero la plausibilidad y la verdad son criterios distintos.
Después de la frase «El artículo representativo sobre OO es», lo natural es que aparezcan el nombre de un autor y un título plausible. La IA sigue fielmente esa naturalidad. Si el artículo existe, perfecto; pero cuando los datos de entrenamiento no contienen información precisa o esta es confusa, crea una entrada falsa con un formato perfecto. Ha aprendido innumerables formatos de citas, así que el formato parece real aunque el contenido sea inventado.
La actitud es aún más problemática. Las personas matizan cuando hablan de algo que desconocen: «quizá» o «no estoy seguro». La IA, en cambio, expresa contenido inventado con frases llenas de seguridad. Como la confianza y la exactitud son independientes, el tono no permite detectar alucinaciones.
Los esfuerzos por reducir las alucinaciones continúan. También se refuerza la formación para que la IA reconozca cuándo no sabe algo. Aun así, no puede afirmarse que los modelos más recientes se equivoquen siempre menos. En evaluaciones publicadas por desarrolladores, algunos modelos nuevos inventaron respuestas sobre personas y hechos incluso más a menudo que los anteriores. Lo que reduce las alucinaciones de forma más fiable que la generación del modelo es aportar fuentes de respaldo, tema que veremos más adelante. En cualquier caso, asumir que la IA actual no comete errores es lo más peligroso.
4 tipos de respuestas que deben generar dudas
No se puede vivir cuestionando cada respuesta, así que resulta práctico conocer los puntos donde aparecen más alucinaciones.
1. Nombres propios y cifras concretas. Títulos de artículos, páginas de libros, números de disposiciones legales, estadísticas y nombres de sentencias. El formato parece plausible, pero su existencia es otra cuestión. Las fuentes son especialmente propensas a ser inventadas cuando preguntas: «¿Puedes indicar la fuente?»
2. Información reciente. Debido al corte de conocimiento visto en la primera parte, las noticias recientes respondidas sin búsqueda web pueden estar desactualizadas o ser inventadas. Los precios, los horarios y la información sobre personal cambian con frecuencia.
3. Temas limitados y poco conocidos. Los temas con muchos datos de entrenamiento, como la historia famosa y las tecnologías extendidas, suelen ser relativamente precisos. En temas con pocos datos, como información local, términos internos o personas desconocidas, la IA tiende a rellenar los huecos con imaginación.
4. Premisas inducidas. Si una pregunta contiene una premisa falsa, como «Cuéntame sobre el incidente en que el rey Sejong lanzó un smartphone», la IA puede inventar una historia que encaje con ella en vez de corregirla. Cuanto más segura suena la pregunta, más sigue el juego la IA. Los modelos actuales suelen corregir ejemplos famosos como este, pero todavía siguen el juego con temas menos conocidos.
Cómo actuar: reducir el coste de la verificación
La estrategia básica frente a las alucinaciones no es «no confiar nunca en la IA», sino verificar solo la información cuyo error tendría consecuencias graves.
Primero, activa la búsqueda web. Los servicios de IA actuales ofrecen un modo de búsqueda web. Hacer que la IA responda basándose en resultados de búsqueda reduce mucho las alucinaciones. Además, puedes abrir el enlace de la fuente para comprobar que lleva a una página real. Pero que el enlace se abra no basta: también debes verificar que la página diga realmente lo que afirma la respuesta. A veces el enlace es auténtico, pero el resumen es incorrecto.
Segundo, proporciona tú mismo el material de respaldo. Por ejemplo, adjunta el contrato cuando quieras que la IA lo resuma. Hacer que responda basándose en el material que aportas, en lugar de en su memoria, es la forma más fiable de reducir las alucinaciones. Este método se trata en profundidad en la cuarta parte.
Tercero, pon a prueba su seguridad. Ante una respuesta importante, pregunta: «¿De verdad? Si no estás seguro, di que no lo sabes». Si es una alucinación, a veces la IA se corrige. Sin embargo, tampoco es un método perfecto: puede retractarse de una respuesta correcta. Úsalo solo como apoyo.
Cuarto, ajusta la intensidad de la verificación al uso. En una lluvia de ideas o un borrador, una alucinación suele tener poco impacto. En ámbitos donde un error causa pérdidas, como contratos, medicina, derecho e inversión, usa la respuesta de la IA solo como punto de partida y verifícala siempre con el original y con un experto.
Resumen
- Las alucinaciones son un efecto secundario del principio de generar frases plausibles, no una avería.
- Un tono seguro no demuestra exactitud.
- Desconfía especialmente de nombres propios, cifras, fuentes, información reciente y temas poco conocidos.
- Aporta evidencias mediante búsquedas web y archivos adjuntos, y verifica solo la información importante.
La conclusión sobre las alucinaciones no es «por tanto, no usemos la IA». Entender su naturaleza permite saber en qué confiar en ella y dónde poner límites. Dentro de esos límites, la clave para mejorar la calidad del resultado es cómo hacemos las preguntas, es decir, los prompts. La próxima entrega aborda cuatro fundamentos de los prompts que pueden hacer que una misma pregunta produzca respuestas distintas.