Ir al contenido principal

Glosario de IA Models & Architecture

¿Qué es una alucinación de la IA?

← Todos los términos del glosario
En pocas palabras

Cuando un modelo de lenguaje produce información que suena verosímil pero es falsa, inventada o no está respaldada por sus fuentes.

Explicación

Una alucinación de la IA es una salida de un modelo de lenguaje que se lee segura y fluida pero es errónea: un dato inventado, una cita que no existe, una cifra que no está en el documento o una afirmación que contradice el contexto que recibió el modelo. Ocurre porque estos modelos generan las palabras más probables, no hechos verificados, y cuando les falta información lo convierten en una suposición verosímil en lugar de reconocerlo. No se pueden eliminar del todo, pero anclar el modelo a fuentes (por ejemplo con RAG), dar instrucciones claras, pedir citas y comprobar la confianza las reduce en producción.

Por qué alucinan los modelos

  • Se entrenan para producir texto verosímil, y verosímil no es lo mismo que cierto.
  • Su conocimiento acaba en los datos de entrenamiento, que pueden estar incompletos, desfasados o ser contradictorios.
  • Rara vez se les premia por decir «no lo sé», así que tienden a rellenar huecos.
  • Un contexto largo o con ruido puede hacer que mezclen fuentes o atribuyan mal un detalle.

Tipos de alucinación

Los investigadores suelen distinguir dos. La alucinación de factualidad contradice hechos verificables del mundo, como una fecha equivocada o una ley inventada. La alucinación de fidelidad contradice lo que el modelo recibió o va más allá, como un resumen que añade un punto que el documento nunca dijo.

En la empresa pesa más la segunda, porque al modelo se le suele pedir que trabaje con los documentos y los datos de la propia organización.

Cómo reducirlas

  • Ancla las respuestas a fuentes recuperadas y pide al modelo que las cite.
  • Permite, y pide, un «no lo sé» cuando las fuentes no cubren la pregunta.
  • Acota la tarea: salidas estructuradas, instrucciones más concretas, pasos más pequeños.
  • Revisa las salidas de forma automática (comprobaciones de coherencia, un segundo modelo como juez) y con personas donde el riesgo es alto.
  • Mide la tasa de alucinación con un conjunto fijo de preguntas reales antes y después de cada cambio.

Preguntas frecuentes

¿Por qué se inventan cosas los chatbots de IA?

Porque un modelo de lenguaje predice texto probable, no consulta hechos verificados. Cuando le falta información, la continuación más probable suele ser una suposición dicha con seguridad. Anclarlo a fuentes y dejar que reconozca la duda lo reduce.

¿Se pueden eliminar del todo las alucinaciones de la IA?

Con los modelos actuales, no. Se pueden hacer mucho menos frecuentes y más fáciles de detectar con recuperación, citas, tareas acotadas y evaluación. Para decisiones de alto impacto conviene mantener una revisión humana.

¿El RAG acaba con las alucinaciones?

Las reduce, porque el modelo responde a partir de documentos relevantes y no de memoria. No acaba con ellas: el modelo puede malinterpretar el fragmento o la búsqueda puede no traer el correcto. El RAG necesita evaluación como cualquier otro componente.

¿Cómo se detecta una alucinación?

Comparando la respuesta con sus fuentes: cada afirmación debería poder rastrearse hasta un fragmento. Entre las comprobaciones automáticas están preguntar varias veces y comparar respuestas, o usar un segundo modelo que contraste las afirmaciones con el contexto. En salidas críticas, una persona revisa una muestra.

¿Qué diferencia hay entre una alucinación y un sesgo?

Una alucinación es una salida concreta falsa o sin respaldo. Un sesgo es una tendencia sistemática en las salidas del modelo, por ejemplo favorecer a un grupo, que puede aparecer aunque cada afirmación sea correcta. Los dos se prueban, pero con métodos distintos.

Guías de decisión que usan este término

Cómo llevarlo a la práctica

Dónde aparece en Thinkia

Para seguir leyendo

Fuentes

Actualizado: 2026-10-21

¿Quieres ver cómo se aplica en tu organización?

Habla con un experto en IA