¿Qué es una alucinación en inteligencia artificial?

¿Qué es una alucinación?

En inteligencia artificial, una alucinación es una respuesta que el modelo da con total seguridad, pero que es falsa: una cifra que no existe, una ley mal citada, un cliente que nunca compró. El perfil de IA generativa del NIST, el instituto de estándares de Estados Unidos, la llama confabulación y la define como contenido erróneo o falso presentado con seguridad, que puede engañar a quien lo lee.

Lo peligroso no es el error en sí —las personas también se equivocan—, sino el tono. El modelo no duda ni avisa: la respuesta falsa se ve igual de pulida que la verdadera.

¿Por qué ocurre?

Un modelo de lenguaje no consulta una base de datos de verdades; predice el texto más probable según lo que aprendió. El NIST explica que las confabulaciones son una consecuencia natural de ese diseño: los modelos generan resultados que se aproximan a la distribución estadística de sus datos de entrenamiento.

Un estudio publicado en septiembre de 2025, «Why Language Models Hallucinate», añade otra causa: los métodos de entrenamiento y evaluación premian adivinar antes que reconocer la incertidumbre. Los autores lo comparan con estudiantes frente a un examen difícil: si equivocarse no resta, adivinar conviene más que dejar la respuesta en blanco.

Un caso real y uno cercano

En junio de 2023, un tribunal federal del distrito sur de Nueva York sancionó a dos abogados y a su firma por presentar, en el caso Mata v. Avianca, opiniones judiciales inexistentes con citas falsas creadas por ChatGPT. La multa fue de USD 5.000. El juez remarcó que usar una herramienta de IA confiable no es impropio en sí mismo, pero que verificar la exactitud de lo presentado sigue siendo responsabilidad del abogado.

Ahora llévalo a tu empresa. Un asistente que responde por WhatsApp inventa una promoción que no existe, o un reporte gerencial muestra un margen calculado con un dato que el modelo «completó» por su cuenta. Si nadie lo detecta, la decisión se toma sobre una cifra falsa.

¿Cómo se reduce?

• Conecta el modelo a datos reales. Con RAG o con consultas directas al ERP (el sistema de gestión de la empresa), el modelo responde con información recuperada, no con memoria.
• Muestra la fuente. Cada respuesta debería decir de qué documento o tabla sale el dato.
• Valida con reglas. Si el modelo extrae el total de una factura, el sistema puede compararlo con la suma de los ítems y con el archivo XML autorizado por el SRI (Servicio de Rentas Internas).
• Pon a una persona en lo crítico. Pagos, cifras para el directorio o respuestas legales pasan por revisión: es el principio de human-in-the-loop.
• Permite que diga «no sé». Una buena instrucción le indica al modelo que, si la información no está en los datos entregados, lo diga.

¿Cómo se relaciona con otros términos?

La alucinación es el límite más conocido de la IA generativa y la razón por la que la explicabilidad importa: quien usa la respuesta necesita saber de dónde sale. Para abogados y áreas legales, la guía de IA para abogados en Ecuador profundiza en cómo verificar citas y fuentes.