¿Qué es el transfer learning (aprendizaje por transferencia)?

Explicación

El transfer learning, o aprendizaje por transferencia, es la técnica de reutilizar lo que un modelo aprendió en una tarea o un dominio para resolver otro. En lugar de entrenar desde cero, partes de un modelo preentrenado, que ya capta patrones generales del lenguaje, de las imágenes o de otros datos, y lo adaptas a la nueva tarea con un conjunto de datos más pequeño. En lenguaje, trabajos como ULMFiT y BERT lo convirtieron en el enfoque estándar, y los grandes modelos de lenguaje actuales van más allá: un único modelo preentrenado se transfiere a tareas nuevas mediante fine-tuning o, simplemente, con prompts. Por eso las empresas pueden construir IA útil sin enormes conjuntos de datos propios de cada tarea.

Cómo funciona

• Preentrenamiento: un modelo aprende patrones generales con un conjunto de datos grande y amplio, como textos de muchas fuentes o millones de imágenes.
• Adaptación: el modelo preentrenado se ajusta a una tarea concreta con un conjunto más pequeño de ejemplos etiquetados.
• Formas de adaptar: reentrenar todos los parámetros, reentrenar solo las últimas capas, entrenar pequeños módulos añadidos o no entrenar y usar prompts con ejemplos.
• Evaluación: el modelo adaptado se prueba en la tarea objetivo, porque la transferencia funciona mejor cuando la nueva tarea se parece a lo que el modelo aprendió.

Transfer learning, fine-tuning y prompts

El transfer learning es la idea general; el fine-tuning es una forma de hacerlo, siguiendo el entrenamiento con datos de la tarea. Con los grandes modelos de lenguaje, la transferencia a menudo ocurre sin entrenar: el modelo aplica lo que aprendió a una tarea nueva a partir de instrucciones y unos pocos ejemplos en el prompt, lo que se llama few-shot o aprendizaje en contexto. Qué opción usar depende de cuántos datos tengas, de la calidad que necesites y del coste.

Cuándo funciona y cuándo no

La transferencia funciona bien cuando la tarea nueva comparte patrones con los datos de preentrenamiento, como clasificar correos de clientes con un modelo entrenado en texto general. Funciona peor cuando el dominio es muy distinto, el vocabulario es muy especializado o los datos tienen otra estructura. En esos casos puede hacer falta más datos del dominio, continuar el preentrenamiento o elegir otro modelo base.

Preguntas frecuentes

Para seguir leyendo

• Más allá de los gigantes: tu ventaja es una cartera de modelos especializados
• Integración de datos de IA generativa: ingeniería rápida frente a ajuste para el éxito empresarial

Términos relacionados

• BERT Modelo de lenguaje Transformer de Google, preentrenado para leer el contexto en ambas direcciones; muy usado en búsqueda, clasificación y embeddings.
• Fine-Tuning Seguir entrenando un modelo ya preentrenado con un conjunto de datos más pequeño y específico para que se comporte como necesitas.
• Adaptación de Dominio Ajustar un modelo de IA de propósito general para que funcione bien en un campo especializado, como el legal, el sanitario o el asegurador, con su lenguaje y sus reglas.
• Agenda del agente El plan vivo de un agente de IA: los próximos pasos en orden, las subtareas abiertas, lo bloqueado y los puntos de control hacia un objetivo.
• Agente IA Software que persigue un objetivo decidiendo sus propios pasos, usando herramientas y datos, y actuando sobre sistemas con poca intervención humana.
• Alucinación Cuando un modelo de lenguaje produce información que suena verosímil pero es falsa, inventada o no está respaldada por sus fuentes.