¿Qué es Inyección de prompt?

Explicación

La inyección de prompt engaña al modelo para ignorar el system prompt o filtrar datos incrustando instrucciones maliciosas en texto recuperado o de usuario. Defensas: aislamiento, filtros de salida, herramientas permitidas y alcance estricto.

Guías de decisión que usan este término

• MCP o integraciones a medida por API: ¿cómo deben conectarse tus agentes de IA a tus sistemas?

Para seguir leyendo

• IA ética: experiencias responsables para mayor confianza del usuario

Términos relacionados

• Prompt Texto de entrada que orienta la respuesta de un LLM.
• System prompt Instrucciones persistentes que definen persona, políticas y herramientas antes del usuario.
• Explicabilidad Capacidad de explicar cómo un modelo llega a una conclusión (XAI).
• Guardrails Restricciones y políticas en tiempo de ejecución que mantienen salidas seguras y de marca.
• Humano en el Bucle Diseño donde humanos supervisan o corrigen decisiones de la IA.
• IA constitucional Enfoque de entrenamiento que alinea modelos con reglas explícitas y auto-crítica.