Glosario de IA Responsibility
¿Qué son los guardrails en IA?
← Todos los términos del glosarioControles y políticas en tiempo de ejecución que revisan lo que entra y sale de un modelo de IA para que se comporte de forma segura, dentro del tema y de las reglas.
Explicación
Los guardrails son los controles que se colocan alrededor de un modelo de lenguaje, no dentro, y que deciden qué puede recibir, decir y hacer. Combinan clasificadores que detectan contenido dañino o fuera de tema, listas de permitidos y prohibidos, esquemas de salida estructurada, comprobaciones sobre las llamadas a herramientas y el paso a una persona cuando el sistema duda. Actúan en tiempo de ejecución, entre el usuario y el modelo, así que se pueden cambiar sin reentrenar. Son imprescindibles en asistentes que atienden a clientes y en flujos regulados, donde una mala respuesta tiene un coste real.
Tipos de guardrails
- De entrada: detectan inyección de prompts, intentos de jailbreak, datos personales o peticiones fuera del alcance del asistente antes de que lleguen al modelo.
- De salida: revisan la respuesta en busca de contenido dañino, fugas de datos, afirmaciones sin respaldo o un formato roto antes de que llegue al usuario.
- De tema: mantienen la conversación dentro del caso de uso; por ejemplo, el asistente de un banco no da consejos médicos.
- De acción: limitan qué herramientas puede llamar un agente, con qué parámetros y qué acciones necesitan aprobación humana.
Cómo funcionan
La mayoría funcionan como una capa entre la aplicación y el modelo. Algunos son reglas (expresiones regulares, listas, esquemas). Otros son modelos: clasificadores más pequeños o modelos de seguridad que etiquetan un prompt o una respuesta según una política, como Llama Guard de Meta. Herramientas como NeMo Guardrails de NVIDIA permiten definir estas reglas como configuración, fuera del modelo principal.
Al estar separados del modelo, los mismos guardrails pueden proteger varios modelos y se pueden probar y versionar por su cuenta.
Cómo diseñarlos bien
- Parte de los riesgos reales del caso de uso, no de una lista genérica.
- Mide los dos lados: las salidas dañinas que se cuelan y las respuestas útiles que se bloquean.
- Deja un camino claro hacia una persona cuando un guardrail salta en un caso delicado.
- Registra cada intervención para poder revisar y auditar las políticas.
- Trata los guardrails como una capa más; no sustituyen a unos buenos permisos, al control de acceso a los datos ni a la evaluación.
Preguntas frecuentes
¿Qué es un ejemplo de guardrail en IA?
Un asistente de atención al cliente que revisa cada respuesta antes de enviarla: quita cualquier número de tarjeta, bloquea consejos fuera de su ámbito y pasa la conversación a un agente cuando el cliente denuncia un fraude. Cada una de esas comprobaciones es un guardrail.
¿Los guardrails son lo mismo que el alineamiento?
No. El alineamiento se incorpora al modelo durante el entrenamiento para que tienda a comportarse como se espera. Los guardrails son controles externos que se aplican al ejecutar. En producción suelen hacer falta los dos, porque ningún modelo está perfectamente alineado para todos los casos.
¿Los guardrails frenan la inyección de prompts?
Ayudan, porque detectan patrones de ataque conocidos y limitan lo que el modelo puede hacer si lo manipulan. No la frenan del todo, porque aparecen ataques nuevos. Limitar los permisos del agente es la defensa más sólida.
¿Los guardrails hacen más lenta la IA?
Cada comprobación añade algo de latencia, sobre todo si usa otro modelo. El coste depende de cuántas comprobaciones se ejecutan y de si van en paralelo. Lo habitual es aplicar comprobaciones ligeras a cada mensaje y dejar las pesadas para donde el riesgo lo justifica.
¿Qué herramientas se usan para crear guardrails?
Entre las opciones habituales están herramientas de código abierto como NVIDIA NeMo Guardrails, clasificadores de seguridad como Llama Guard, las funciones de moderación y seguridad de las plataformas de IA en la nube y reglas propias en la aplicación. Muchos equipos combinan varias.
Guías de decisión que usan este término
- IA agéntica vs chatbots generativos: ¿tu caso de uso necesita un agente o un buen asistente?
- Agentes de IA o RPA: ¿cuál debe automatizar tu proceso y cuándo conviene combinarlos?
- Humano en el bucle o agentes autónomos: ¿cuánto debe decidir un agente de IA por su cuenta?
- Evals automáticas o revisión humana: ¿cómo garantizas la calidad de la IA en la empresa?
Cómo llevarlo a la práctica
Dónde aparece en Thinkia
Para seguir leyendo
Términos relacionados
Fuentes
- Rebedea et al. · NeMo Guardrails: a toolkit for controllable and safe LLM applications (arXiv, en inglés)
- Inan et al. · Llama Guard: LLM-based input-output safeguard for human-AI conversations (arXiv, en inglés)
- Anthropic · Mitigate jailbreaks and prompt injections, documentación de Claude (en inglés)
- OWASP GenAI Security Project · OWASP Top 10 risks for LLM applications 2025 (en inglés)
Actualizado: 2026-10-21