Modelos de IA sin entrenamiento superan a XGBoost en 14 pruebas

Un análisis técnico ha demostrado que los modelos de aprendizaje en contexto (TabPFN y TabICL) superan a XGBoost ajustado en 14 de 14 conjuntos de datos probados en una RTX 4070 Ti. La prueba, realizada con el benchmark de Grinsztajn, confirma que estos modelos de IA no requieren entrenamiento previo para cada nueva tabla, sino que utilizan el contexto de datos existentes para generar predicciones en un solo paso. Este hallazgo desafía la premisa de que el ajuste de hiperparámetros es obligatorio, posicionando a los modelos de base como una alternativa viable para tareas de clasificación tabular. En los casos de riesgo crediticio, marketing bancario y readmisiones hospitalarias, los modelos de IA lograron métricas de área bajo la curva (AUC) superiores o equivalentes a las de XGBoost, manteniendo su ventaja incluso con hasta 32.000 filas de datos. El estudio destaca que, aunque el coste de la predicción es mayor que el de la inferencia, la eficiencia en la inferencia permite una ventaja competitiva significativa frente a los métodos tradicionales de boosting, que siguen siendo la norma en la industria.