Ir al contenido principal

Glosario de IA Responsibility

¿Qué son los guardrails en IA?

← Todos los términos del glosario
En pocas palabras

Controles y políticas en tiempo de ejecución que revisan lo que entra y sale de un modelo de IA para que se comporte de forma segura, dentro del tema y de las reglas.

Explicación

Los guardrails son los controles que se colocan alrededor de un modelo de lenguaje, no dentro, y que deciden qué puede recibir, decir y hacer. Combinan clasificadores que detectan contenido dañino o fuera de tema, listas de permitidos y prohibidos, esquemas de salida estructurada, comprobaciones sobre las llamadas a herramientas y el paso a una persona cuando el sistema duda. Actúan en tiempo de ejecución, entre el usuario y el modelo, así que se pueden cambiar sin reentrenar. Son imprescindibles en asistentes que atienden a clientes y en flujos regulados, donde una mala respuesta tiene un coste real.

Tipos de guardrails

  • De entrada: detectan inyección de prompts, intentos de jailbreak, datos personales o peticiones fuera del alcance del asistente antes de que lleguen al modelo.
  • De salida: revisan la respuesta en busca de contenido dañino, fugas de datos, afirmaciones sin respaldo o un formato roto antes de que llegue al usuario.
  • De tema: mantienen la conversación dentro del caso de uso; por ejemplo, el asistente de un banco no da consejos médicos.
  • De acción: limitan qué herramientas puede llamar un agente, con qué parámetros y qué acciones necesitan aprobación humana.

Cómo funcionan

La mayoría funcionan como una capa entre la aplicación y el modelo. Algunos son reglas (expresiones regulares, listas, esquemas). Otros son modelos: clasificadores más pequeños o modelos de seguridad que etiquetan un prompt o una respuesta según una política, como Llama Guard de Meta. Herramientas como NeMo Guardrails de NVIDIA permiten definir estas reglas como configuración, fuera del modelo principal.

Al estar separados del modelo, los mismos guardrails pueden proteger varios modelos y se pueden probar y versionar por su cuenta.

Cómo diseñarlos bien

  • Parte de los riesgos reales del caso de uso, no de una lista genérica.
  • Mide los dos lados: las salidas dañinas que se cuelan y las respuestas útiles que se bloquean.
  • Deja un camino claro hacia una persona cuando un guardrail salta en un caso delicado.
  • Registra cada intervención para poder revisar y auditar las políticas.
  • Trata los guardrails como una capa más; no sustituyen a unos buenos permisos, al control de acceso a los datos ni a la evaluación.

Preguntas frecuentes

¿Qué es un ejemplo de guardrail en IA?

Un asistente de atención al cliente que revisa cada respuesta antes de enviarla: quita cualquier número de tarjeta, bloquea consejos fuera de su ámbito y pasa la conversación a un agente cuando el cliente denuncia un fraude. Cada una de esas comprobaciones es un guardrail.

¿Los guardrails son lo mismo que el alineamiento?

No. El alineamiento se incorpora al modelo durante el entrenamiento para que tienda a comportarse como se espera. Los guardrails son controles externos que se aplican al ejecutar. En producción suelen hacer falta los dos, porque ningún modelo está perfectamente alineado para todos los casos.

¿Los guardrails frenan la inyección de prompts?

Ayudan, porque detectan patrones de ataque conocidos y limitan lo que el modelo puede hacer si lo manipulan. No la frenan del todo, porque aparecen ataques nuevos. Limitar los permisos del agente es la defensa más sólida.

¿Los guardrails hacen más lenta la IA?

Cada comprobación añade algo de latencia, sobre todo si usa otro modelo. El coste depende de cuántas comprobaciones se ejecutan y de si van en paralelo. Lo habitual es aplicar comprobaciones ligeras a cada mensaje y dejar las pesadas para donde el riesgo lo justifica.

¿Qué herramientas se usan para crear guardrails?

Entre las opciones habituales están herramientas de código abierto como NVIDIA NeMo Guardrails, clasificadores de seguridad como Llama Guard, las funciones de moderación y seguridad de las plataformas de IA en la nube y reglas propias en la aplicación. Muchos equipos combinan varias.

Guías de decisión que usan este término

Cómo llevarlo a la práctica

Dónde aparece en Thinkia

Para seguir leyendo

Fuentes

Actualizado: 2026-10-21

¿Quieres ver cómo se aplica en tu organización?

Habla con un experto en IA