La ausencia de un commons de datos para el postentrenamiento de IA
El artículo argumenta que, a diferencia del preentrenamiento de los modelos de lenguaje grandes (LLM), que se benefició de la abundancia de datos públicos como Wikipedia, ArXiv y Common Crawl, no existe un 'commons' de datos equivalente para la fase de postentrenamiento. Mientras que el preentrenami
