Glosario de IA Responsibility
¿Qué es la explicabilidad en IA (XAI)?
← Todos los términos del glosarioCapacidad de explicar, en términos que una persona pueda seguir, cómo un modelo de IA llegó a un resultado o una decisión (también llamada IA explicable, XAI).
Explicación
La explicabilidad es la capacidad de describir cómo un modelo de IA llega a sus resultados de forma que lo entiendan las personas afectadas. Incluye explicaciones globales (qué factores mueven el modelo en general) y locales (por qué se ha rechazado a este cliente). Importa para la confianza, para depurar modelos, para detectar sesgos y para cumplir la regulación: el RGPD y el Reglamento de IA de la UE dan a las personas y a las autoridades derecho a información significativa sobre decisiones automatizadas. La IA explicable (XAI) es el conjunto de métodos para producir esas explicaciones.
Técnicas principales
- Modelos interpretables por diseño: modelos lineales, árboles de decisión, scorecards.
- Atribución de variables: métodos como SHAP y LIME, que estiman cuánto aportó cada entrada a una predicción.
- Contrafactuales: qué tendría que cambiar para que la decisión fuera otra.
- Explicaciones con ejemplos: casos anteriores parecidos que el modelo trató igual.
- En modelos de lenguaje: citar las fuentes usadas, mostrar los pasos que dio un agente y registrar las llamadas a herramientas.
Explicabilidad frente a interpretabilidad
Muchas veces se usan como sinónimos. Cuando se distinguen, la interpretabilidad se refiere a lo comprensible que es el propio modelo, y la explicabilidad, a las explicaciones que se generan sobre su comportamiento, que pueden aplicarse incluso a un modelo de caja negra.
Los principios del NIST añaden una prueba útil: la explicación debe existir, tener sentido para quien la recibe, reflejar con exactitud cómo funciona el sistema, y el sistema debe avisar cuando opera fuera de los límites de su conocimiento.
Cuándo importa más
- Decisiones sobre personas: crédito, seguros, selección, sanidad, servicios públicos.
- Sistemas de alto riesgo según el Reglamento de IA, que exigen transparencia y supervisión humana.
- Modelos que hay que auditar o defender ante un regulador o un juez.
- Cualquier sistema en el que el usuario necesite saber cuándo fiarse del resultado y cuándo revisarlo.
Preguntas frecuentes
¿Qué es la IA explicable, explicada fácil?
Es una IA capaz de mostrar por qué dio una respuesta concreta. En lugar de decir solo «denegado», un sistema explicable señala los factores que más pesaron en esa decisión.
¿Por qué es importante la explicabilidad en IA?
Permite confiar en las decisiones de la IA y cuestionarlas, ayuda a los equipos a encontrar errores y sesgos y es obligatoria en muchos entornos regulados. Sin ella cuesta saber si un modelo acierta por los motivos correctos.
¿El Reglamento de IA de la UE exige explicabilidad?
El Reglamento de IA exige que los sistemas de alto riesgo sean lo bastante transparentes para que quien los despliega interprete sus resultados y los use bien, y que permitan la supervisión humana. También da a las personas afectadas derecho a una explicación de ciertas decisiones tomadas con sistemas de alto riesgo. El RGPD añade sus propias normas sobre decisiones automatizadas.
¿Qué son SHAP y LIME?
Son dos métodos muy usados para explicar predicciones individuales. LIME ajusta un modelo sencillo alrededor de una predicción para imitar localmente al modelo complejo; SHAP asigna a cada variable una contribución basada en teoría de juegos. Los dos sirven para muchos tipos de modelo.
¿Pueden los modelos de lenguaje explicar sus respuestas?
Pueden generar una explicación verosímil, pero nada garantiza que ese texto refleje cómo calculó el modelo la respuesta. En la práctica, la explicabilidad de los sistemas con LLM se apoya en citar fuentes, registrar los pasos de los agentes y evaluar las salidas, no en fiarse del relato del propio modelo.
Cómo llevarlo a la práctica
Dónde aparece en Thinkia
Para seguir leyendo
Términos relacionados
Fuentes
- NIST · Four principles of explainable artificial intelligence (NISTIR 8312, en inglés)
- Ribeiro, Singh y Guestrin · "Why should I trust you?": explaining the predictions of any classifier (arXiv, en inglés)
- Lundberg and Lee · A unified approach to interpreting model predictions (SHAP, arXiv) (en inglés)
Actualizado: 2026-10-21