¿Qué es el overfitting (sobreajuste) en machine learning?

Explicación

El overfitting, o sobreajuste, ocurre cuando un modelo se ajusta tanto a sus datos de entrenamiento que memoriza detalles y ruido en lugar de aprender el patrón general. Saca buena nota con los datos con los que se entrenó, pero predice mal con datos nuevos. La señal habitual es una brecha que se abre entre el rendimiento con los datos de entrenamiento y con un conjunto de validación aparte. Las causas típicas son un modelo demasiado complejo para los datos disponibles, datos escasos o poco representativos y entrenar demasiado tiempo. La regularización, más y mejores datos, la parada temprana y una buena validación ayudan a evitarlo.

Cómo detectarlo

Reserva datos que el modelo no vea al entrenar: un conjunto de validación para ajustarlo y uno de prueba para la comprobación final. Sigue el error en los dos mientras avanza el entrenamiento.

Si el error de entrenamiento sigue bajando mientras el de validación se estanca o empieza a subir, el modelo se está sobreajustando. Un modelo que parece excelente en desarrollo y decepciona en producción suele ser un caso de overfitting, o de datos de entrenamiento que no representan el uso real.

Overfitting frente a underfitting

• Overfitting: el modelo está demasiado pegado a los datos de entrenamiento. Error bajo al entrenar, alto con datos nuevos.
• Underfitting: el modelo es demasiado simple para captar el patrón. Error alto en los dos casos.
• Buen ajuste: el modelo capta el patrón y generaliza, con un error parecido en entrenamiento y en datos nuevos.

Cómo evitarlo

• Usa más datos, y datos que reflejen los casos reales a los que se enfrentará el modelo.
• Elige un modelo más simple, o limita uno complejo con regularización.
• Usa dropout en redes neuronales, que desactiva unidades al azar durante el entrenamiento.
• Para el entrenamiento cuando el rendimiento en validación deje de mejorar.
• Usa validación cruzada para comprobar que los resultados son estables entre particiones.
• Al ajustar modelos grandes, separa bien los conjuntos de evaluación y vigila que el modelo no memorice ejemplos.

Preguntas frecuentes

Guías de decisión que usan este término

• Datos sintéticos o datos reales: ¿con qué entrenar, ajustar y probar tu IA?

Términos relacionados

• Entrenamiento Proceso de enseñar a un modelo a partir de datos ajustando sus parámetros, desde el preentrenamiento general hasta el ajuste fino para una tarea concreta.
• Adaptación de Dominio Ajustar un modelo de IA de propósito general para que funcione bien en un campo especializado, como el legal, el sanitario o el asegurador, con su lenguaje y sus reglas.
• Agenda del agente El plan vivo de un agente de IA: los próximos pasos en orden, las subtareas abiertas, lo bloqueado y los puntos de control hacia un objetivo.
• Agente IA Software que persigue un objetivo decidiendo sus propios pasos, usando herramientas y datos, y actuando sobre sistemas con poca intervención humana.
• Alucinación Cuando un modelo de lenguaje produce información que suena verosímil pero es falsa, inventada o no está respaldada por sus fuentes.
• Aprendizaje Few-Shot Conseguir que un modelo haga una tarea a partir de muy pocos ejemplos, algo que los modelos de lenguaje grandes logran leyendo esos ejemplos en el prompt.