Soft-MTP optimiza la predicción multi-tokeno en modelos de lenguaje
La predicción multi-tokeno (MTP) se ha convertido en un componente estándar en el preentrenamiento de modelos de lenguaje, mejorando el rendimiento en tareas posteriores y permitiendo una inferencia más rápida mediante la decodificación especulativa. Sin embargo, un estudio reciente identifica una d
