Un desarrollador documenta el proceso técnico para entrenar el modelo de reconocimiento de entidades (NER) GLiNER, con el objetivo de reducir costes operativos frente a la API de pago de Gemini 3.1 Pro. El proyecto surge de la necesidad de etiquetar automáticamente marcas, modelos y aceros de cuchillos mencionados en comentarios de Reddit, donde Gemini generaba un coste de 9 dólares por 4.290 comentarios, mientras que GLiNER en su versión zero-shot solo alcanzaba una precisión estimada del 0.65 F1.
El autor utiliza Gemini para generar etiquetas iniciales en 4.290 comentarios, evitando la solicitud de offsets de caracteres para mejorar la precisión, y luego entrena GLiNER en un conjunto de validación de 225 comentarios. El proceso técnico revela desafíos significativos: cinco de diez intentos de entrenamiento fallaron debido a errores de configuración en el HF Trainer, específicamente en la gestión de tensores como 'words_mask', que el autor identificó como un índice de palabras y no como una máscara de atención, lo que causaba una pérdida plana y un entrenamiento ineficaz. Tras corregir el tensor, el modelo de 459 millones de parámetros alcanzó un F1 de 0.83 en el conjunto de validación no visto, superando la precisión de GLiNER zero-shot.
El resultado final permite ejecutar el modelo localmente en una GPU Tesla T4, reduciendo el coste de extracción a aproximadamente 0,0021 dólares por comentario. El artículo destaca que el coste real no fue el económico, sino el tiempo de depuración, y concluye que en tareas de fine-tuning, los errores en el código de entrenamiento suelen ser más frecuentes que problemas en los datos o los modelos, subrayando la importancia de validar rigurosamente cada componente técnico.