Estudio revela comportamiento no monótono en el peso de datos en LMs
Un estudio reciente analiza las leyes de escalado del peso de datos en modelos de lenguaje (LM) de pesos internos y abiertos, identificando un comportamiento no monótono a medida que aumentan las escalas de los modelos. Los investigadores miden cómo la reducción de la pérdida en una secuencia de ent
