Ir al contenido principal

Glosario de IA Responsibility

¿Qué es la IA constitucional (constitutional AI)?

IA constitucional (Constitutional AI)

← Todos los términos del glosario
En pocas palabras

Un enfoque de entrenamiento en el que un modelo aprende a seguir un conjunto de principios escritos, una constitución, criticando y revisando sus propias respuestas.

Explicación

La IA constitucional (constitutional AI) es un método que presentaron investigadores de Anthropic en 2022 para entrenar asistentes de IA útiles, honestos e inofensivos usando como principal aportación humana una lista corta de principios escritos: la constitución. En una primera fase, el modelo critica y reescribe sus propias respuestas según esos principios y se ajusta con las versiones revisadas. En una segunda fase, el modelo compara pares de respuestas según los principios, y esos juicios de la IA entrenan un modelo de preferencias que sirve de recompensa, lo que se llama aprendizaje por refuerzo con feedback de IA (RLAIF). El resultado es un modelo que puede atender peticiones difíciles y explicar sus objeciones, con muchas menos etiquetas humanas sobre contenido dañino. Las empresas aplican ideas parecidas en capas de políticas y guardrails.

Cómo funciona

  • Escribir la constitución: un conjunto de principios en lenguaje natural sobre lo que el modelo debe y no debe hacer.
  • Fase supervisada: el modelo responde, critica su respuesta según un principio, la reescribe y se ajusta con las respuestas mejoradas.
  • Fase de refuerzo: el modelo compara dos respuestas y juzga cuál sigue mejor los principios; esos juicios entrenan un modelo de preferencias.
  • El modelo de preferencias da la recompensa con la que se entrena el asistente final mediante aprendizaje por refuerzo.

IA constitucional frente a RLHF

El aprendizaje por refuerzo con feedback humano (RLHF) depende de personas que comparan muchas respuestas para enseñar al modelo sus preferencias. La IA constitucional sustituye la mayoría de esas comparaciones humanas sobre contenido dañino por comparaciones de la propia IA guiadas por principios explícitos. Las reglas están escritas y se pueden leer, discutir y cambiar, así que el comportamiento buscado es más transparente. El criterio humano sigue contando: las personas escriben los principios y revisan los resultados.

Qué aporta a las empresas

La mayoría de las empresas no entrenan modelos fundacionales, así que no aplican la IA constitucional tal cual. La idea sigue siendo útil: escribir principios explícitos sobre cómo debe comportarse un sistema de IA, usarlos en los system prompts, los guardrails y los criterios de evaluación, y hacer que un modelo o una persona revise las respuestas contra ellos. Las constituciones publicadas, como la que Anthropic ha difundido para Claude, sirven también para entender cómo se supone que se comporta el modelo de un proveedor.

Preguntas frecuentes

¿Qué es la IA constitucional en pocas palabras?

Es una forma de entrenar un modelo de IA para que siga una lista escrita de principios. El modelo aprende a criticar y mejorar sus propias respuestas según esos principios, en lugar de depender solo de personas que marcan las respuestas malas.

¿Quién creó la IA constitucional?

La presentaron investigadores de Anthropic en el artículo Constitutional AI: Harmlessness from AI Feedback, publicado en diciembre de 2022. Anthropic usa este enfoque para entrenar sus modelos Claude.

¿Qué diferencia hay entre la IA constitucional y RLHF?

RLHF aprende de personas que comparan respuestas del modelo. La IA constitucional usa al propio modelo para comparar respuestas según principios escritos, una técnica llamada RLAIF. Necesita muchas menos etiquetas humanas sobre contenido dañino y deja las reglas por escrito.

¿Qué contiene una constitución de IA?

Un conjunto de principios en lenguaje natural, por ejemplo no ayudar en actividades dañinas, ser honesto y respetar los derechos de las personas. Los principios concretos dependen de quien desarrolla el modelo, y algunos, como Anthropic, publican los suyos.

¿Pueden las empresas usar la IA constitucional?

Pocas empresas entrenan modelos desde cero, pero pueden aplicar la misma idea: escribir principios de comportamiento explícitos y usarlos en system prompts, guardrails y evaluaciones automáticas. Así el comportamiento esperado de un sistema de IA queda claro y se puede probar.

Dónde aparece en Thinkia

Para seguir leyendo

Fuentes

Actualizado: 2026-10-21

¿Quieres ver cómo se aplica en tu organización?

Habla con un experto en IA