Glosario de IA Models & Architecture
¿Qué es el fine-tuning en IA?
← Todos los términos del glosarioSeguir entrenando un modelo ya preentrenado con un conjunto de datos más pequeño y específico para que se comporte como necesitas.
Explicación
El fine-tuning parte de un modelo ya preentrenado con grandes volúmenes de datos generales y lo sigue entrenando con un conjunto pequeño de ejemplos de tu dominio o tarea. Cambian los pesos del modelo, así que el nuevo comportamiento queda dentro del modelo y no hay que escribirlo en cada prompt. Sirve para enseñar un formato, un estilo, un vocabulario o una tarea concreta que el prompting por sí solo no consigue de forma estable. Es una alternativa al prompt engineering cuando hace falta más control, y lo habitual es combinarlo con la recuperación de información, no sustituirla.
Cómo funciona
Partes de un modelo base y de un conjunto de ejemplos: entradas emparejadas con las salidas que quieres. El entrenamiento ajusta el modelo para que, ante entradas parecidas, dé salidas parecidas.
El fine-tuning completo actualiza todos los pesos del modelo, y eso es caro en modelos grandes. Los métodos eficientes en parámetros, como LoRA, congelan los pesos originales y entrenan solo unos pocos parámetros extra. Así se necesita mucha menos memoria y cómputo, y puedes tener varias versiones adaptadas de un mismo modelo base.
El resultado hay que evaluarlo con un conjunto de prueba aparte y compararlo con el modelo base. Sin esa comparación es difícil saber si el fine-tuning ha servido.
¿Fine-tuning, prompting o RAG?
- El prompting cambia las instrucciones, no el modelo. Es la opción más barata y lo primero que conviene probar.
- La generación aumentada por recuperación (RAG) da al modelo información actual y concreta en el momento de la consulta. Es la herramienta adecuada cuando falta conocimiento o este cambia.
- El fine-tuning cambia cómo se comporta el modelo: formato, tono, terminología o una tarea concreta que debe hacer bien siempre. No es buena forma de añadir datos que cambian a menudo.
- Muchos sistemas en producción combinan las tres: un modelo ajustado para el comportamiento, recuperación para el conocimiento y prompts para la tarea concreta.
Cuándo tiene sentido
- Ya has probado prompting y recuperación, y el modelo sigue fallando de forma repetida y fácil de describir.
- Tienes suficientes ejemplos buenos y representativos de la salida que buscas, y derecho a usarlos.
- La tarea es lo bastante estable como para que lo aprendido no se quede viejo enseguida.
- Un modelo pequeño ajustado podría sustituir a uno grande y general, con menos coste o latencia.
- Tienes evaluaciones para medir la mejora y detectar regresiones.
Preguntas frecuentes
¿Qué diferencia hay entre preentrenamiento y fine-tuning?
El preentrenamiento enseña a un modelo lenguaje o patrones generales a partir de enormes volúmenes de datos, y lo hace una vez el proveedor del modelo. El fine-tuning parte de ese modelo y lo sigue entrenando con un conjunto mucho más pequeño y dirigido. Ese segundo paso es mucho más barato y es el que suelen hacer las propias organizaciones.
¿Es mejor el fine-tuning que RAG?
Resuelven problemas distintos. RAG aporta conocimiento actual o privado en el momento de la consulta; el fine-tuning cambia el comportamiento, el estilo o la destreza del modelo en una tarea concreta. Si el problema es que el modelo no sabe algo, empieza por RAG; si lo sabe pero no se comporta como necesitas, plantéate el fine-tuning.
¿Qué es LoRA?
LoRA (low-rank adaptation) es un método de fine-tuning eficiente en parámetros. Congela los pesos preentrenados y entrena unas matrices pequeñas añadidas dentro de las capas del modelo. Reduce la memoria y el cómputo necesarios y hace práctico tener muchos adaptadores por tarea sobre un mismo modelo base.
¿Cuántos datos hacen falta para hacer fine-tuning?
Depende del modelo, del método y de lo lejos que esté la tarea de lo que el modelo ya sabe hacer. Importan más la calidad y la representatividad que el volumen: un conjunto modesto de ejemplos limpios y coherentes suele ganar a uno grande y ruidoso. Lo fiable es empezar con poco, evaluar y añadir datos donde el modelo siga fallando.
¿Qué riesgos tiene el fine-tuning?
Un modelo ajustado puede perder parte de sus capacidades generales, aprender errores o sesgos de los datos de entrenamiento o memorizar información sensible. También exige mantenimiento: cuando el modelo base se actualiza o se retira, puede que tengas que repetir el ajuste. El gobierno del dato y la evaluación reducen estos riesgos.
Guías de decisión que usan este término
- RAG o fine-tuning: ¿qué necesita tu caso de uso empresarial?
- LLM open source vs propietarios: ¿cómo debe elegir una empresa?
- Proveedor o implantador en el Reglamento Europeo de IA: ¿qué papel tienes y qué te toca?
- Modelos de lenguaje pequeños o grandes: ¿cuál debe resolver tu caso de uso?
- Datos sintéticos o datos reales: ¿con qué entrenar, ajustar y probar tu IA?
Dónde aparece en Thinkia
Para seguir leyendo
Términos relacionados
Fuentes
- Howard y Ruder · Universal Language Model Fine-tuning for Text Classification (arXiv, en inglés)
- Hu et al. · LoRA: Low-Rank Adaptation of Large Language Models (arXiv, en inglés)
- OpenAI · Supervised fine-tuning (API documentation) (en inglés)
Actualizado: 2026-10-21