Ir al contenido principal

Glosario de IA Responsibility

¿Qué es la inyección de prompt (prompt injection)?

Inyección de prompt (Prompt Injection)

← Todos los términos del glosario
En pocas palabras

Ataque que secuestra las instrucciones de un modelo de lenguaje mediante contenido no fiable, venga del usuario o de lo que el modelo lee.

Explicación

La inyección de prompt es un ataque en el que un texto preparado por un atacante hace que un modelo de lenguaje ignore sus instrucciones originales, filtre datos o haga cosas que no debe. Las instrucciones maliciosas puede escribirlas el propio usuario o pueden ir escondidas en contenido que el modelo procesa, como un documento recuperado, un correo o una página web. Funciona porque el modelo recibe instrucciones y datos por el mismo canal y no sabe distinguirlos con fiabilidad. Las defensas pasan por aislar el contenido no fiable, filtrar las salidas, limitar las herramientas a una lista permitida y acotar al máximo los permisos del modelo.

Inyección directa e indirecta

En la inyección directa, el usuario escribe instrucciones para saltarse el system prompt: pide al modelo que ignore sus reglas, que revele su configuración o que adopte otro papel. El jailbreak es una inyección directa cuyo fin es saltarse las reglas de seguridad.

En la indirecta, el atacante no habla nunca con el modelo. Deja instrucciones en contenido que el sistema leerá después: una página web, un documento compartido, una invitación de calendario, un campo de una base de datos. Cuando el modelo recupera ese contenido, puede seguir las instrucciones ocultas como si vinieran del usuario o del desarrollador.

Por qué importa más con agentes

A un chatbot que solo responde se le puede manipular para que diga algo incorrecto. A un agente que envía correos, consulta sistemas o ejecuta código se le puede manipular para que haga algo incorrecto, con los permisos que tenga.

El riesgo crece cuando un mismo agente lee contenido no fiable, accede a datos privados y puede comunicarse hacia fuera. Con esa combinación, una instrucción inyectada puede acabar en fuga de datos o en acciones no autorizadas.

Cómo reducir el riesgo

  • Trata todo contenido externo como dato, nunca como instrucción, y márcalo con claridad en el prompt.
  • Da al modelo solo los permisos que necesita: credenciales acotadas, herramientas permitidas y solo lectura cuando se pueda.
  • Pide aprobación humana para acciones sensibles o irreversibles.
  • Valida y filtra las salidas antes de que lleguen a usuarios u otros sistemas.
  • Registra prompts, contenido recuperado y llamadas a herramientas para poder rastrear incidentes.
  • Prueba el sistema con entradas adversarias (red teaming) antes y después de lanzarlo.

Preguntas frecuentes

¿Qué es un ejemplo de inyección de prompt?

Un usuario pide a un asistente que resuma una página web, y la página contiene texto oculto que ordena al modelo revelar su system prompt o enviar la conversación a una dirección externa. Si el asistente obedece, ha sufrido una inyección. El usuario no hizo nada malo: el ataque venía en el contenido.

¿Qué diferencia hay entre inyección de prompt y jailbreak?

El jailbreak es un tipo de inyección de prompt que busca que el modelo ignore sus reglas de seguridad. La inyección de prompt es la categoría amplia: cualquier entrada que cambie el comportamiento del modelo de forma no prevista, incluidos los ataques indirectos escondidos en documentos o páginas web.

¿Se puede evitar del todo la inyección de prompt?

Con las técnicas actuales, no, porque el modelo procesa instrucciones y datos en el mismo flujo de texto. Los filtros y un mejor entrenamiento reducen el riesgo, pero no lo eliminan. Lo práctico es limitar lo que puede hacer una inyección que tenga éxito: permisos estrechos, aprobación humana en acciones sensibles y monitorización.

¿Qué lugar ocupa la inyección de prompt entre los riesgos de seguridad de los LLM?

OWASP la recoge como LLM01, la primera entrada de su Top 10 para aplicaciones con modelos de lenguaje. La lista cubre tanto la inyección directa como la indirecta.

¿RAG empeora la inyección de prompt?

Añade una puerta de entrada. Cada documento que puede devolver un sistema de recuperación es contenido que el modelo va a leer, así que un documento envenenado puede llevar instrucciones. Ayuda controlar qué se indexa, delimitar el texto recuperado y limitar los permisos del modelo.

Guías de decisión que usan este término

Cómo llevarlo a la práctica

Dónde aparece en Thinkia

Productos

Para seguir leyendo

Fuentes

Actualizado: 2026-10-21

¿Quieres ver cómo se aplica en tu organización?

Habla con un experto en IA