Glosario de IA Responsibility
¿Qué es el sesgo en la IA?
← Todos los términos del glosarioDistorsión sistemática en los datos, el diseño o el uso de un sistema de IA que produce resultados injustos, discriminatorios o imprecisos para ciertas personas o casos.
Explicación
El sesgo en IA es un error sistemático, no aleatorio: el sistema funciona peor, o decide distinto, para ciertos grupos o situaciones de forma constante y a menudo difícil de ver. Puede venir de datos de entrenamiento que representan mal a algunas personas, de etiquetas que reflejan decisiones humanas pasadas, de decisiones de diseño sobre qué optimizar o de cómo la gente usa y se fía del resultado. No se puede eliminar del todo, pero sí medir, reducir y vigilar. La IA responsable trata la detección y la mitigación del sesgo como parte del ciclo de vida, desde la recogida de datos hasta la operación.
De dónde sale el sesgo
- Datos: muestras que dejan fuera a ciertos grupos, históricos que arrastran discriminaciones pasadas o etiquetas puestas sin criterio homogéneo.
- Modelo y diseño: el objetivo que se optimiza, las variables elegidas y el equilibrio que se acepta entre precisión y equidad.
- Personas y contexto: cómo se interpretan los resultados y qué se hace con ellos, incluido fiarse demasiado del sistema.
- Sistémico: prácticas y estructuras de la organización o de la sociedad que condicionan todo lo anterior.
Cómo se detecta y se mitiga
Detectarlo empieza por medir los resultados por separado para los grupos y casos relevantes, no solo la media. Lo habitual es comparar tasas de error, de aprobación o de calidad entre grupos y buscar diferencias.
La mitigación actúa en varios puntos: mejorar la cobertura y el etiquetado de los datos, ajustar el entrenamiento o los umbrales del modelo, añadir revisión humana cuando las decisiones afectan a personas y vigilar en producción, porque los datos y el comportamiento cambian con el tiempo. Documentar qué se ha comprobado, por ejemplo en una model card, hace el trabajo auditable.
Sesgo y regulación
El Reglamento europeo de IA obliga a los proveedores de sistemas de alto riesgo a examinar los datos de entrenamiento, validación y prueba para detectar posibles sesgos que afecten a la salud, la seguridad o los derechos fundamentales, y a tomar medidas para detectarlos, prevenirlos y mitigarlos. Gestionar el sesgo no es solo una cuestión ética: en usos regulados como el crédito, el empleo o el acceso a servicios públicos también es una cuestión de cumplimiento.
Preguntas frecuentes
¿Qué tipos de sesgo hay en la IA?
Una clasificación habitual distingue el sesgo de datos (datos poco representativos o con desviaciones históricas), el algorítmico o de diseño (qué optimiza el modelo y cómo) y el humano (cómo se construye, se interpreta y se usa el sistema). El NIST añade el sesgo sistémico de instituciones y sociedad.
¿Se puede eliminar del todo el sesgo de la IA?
No. Se puede reducir y mantener dentro de límites aceptables, pero no eliminar, porque los datos y el contexto siempre tienen algún desequilibrio. El objetivo realista es medirlo, documentarlo y gestionarlo durante toda la vida del sistema.
¿Cómo se detecta el sesgo en un modelo de IA?
Evalúa el modelo por separado para los grupos y casos relevantes, compara tasas de error y de resultado y busca diferencias. Combina esas métricas con una revisión de las fuentes de datos y con lo que digan las personas afectadas.
¿Qué dice el Reglamento europeo de IA sobre el sesgo?
Para los sistemas de alto riesgo, el artículo 10 exige prácticas de gobierno de datos que incluyan examinar los datos en busca de posibles sesgos y adoptar medidas para detectarlos, prevenirlos y mitigarlos.
¿Los grandes modelos de lenguaje tienen sesgos?
Sí. Aprenden de enormes cantidades de texto escrito por personas, así que pueden reproducir estereotipos y dar una calidad desigual según el idioma o el grupo. Evaluarlos con tus casos de uso y poner guardrails ayuda a controlarlo.
Guías de decisión que usan este término
Cómo llevarlo a la práctica
Dónde aparece en Thinkia
Para seguir leyendo
Términos relacionados
Fuentes
- NIST · SP 1270: Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (en inglés)
- EUR-Lex · Reglamento (UE) 2024/1689 (Reglamento de IA), artículo 10
- Mehrabi et al. · A Survey on Bias and Fairness in Machine Learning (arXiv) (en inglés)
- NIST · AI 100-1: Artificial Intelligence Risk Management Framework (AI RMF 1.0) (en inglés)
Actualizado: 2026-10-21