Claude 4.7: Nuevo tokenizador eleva costos de uso

Fuentes: I Measured Claude 4.7's New Tokenizer. Here's What It Costs You.

Anthropic ha implementado un nuevo tokenizador en su modelo Claude Opus 4.7, lo que resulta en un aumento significativo en el consumo de tokens en comparación con la versión 4.6. Las mediciones indican que el nuevo tokenizador utiliza entre 1.325 y 1.47 veces más tokens para el mismo contenido, lo que implica un mayor costo por prompt, una quema más rápida de la ventana máxima y un agotamiento más temprano de los límites de velocidad. Aunque el precio y la cuota permanecen iguales, los usuarios deben ser conscientes de este incremento en el uso de tokens.

Anthropic afirma que este cambio está ligado a una mejora en el seguimiento de instrucciones, especialmente en tareas que requieren precisión y literalidad. Para validar esta afirmación, se realizó una prueba utilizando el benchmark IFEval, que reveló una ligera mejora en el seguimiento de instrucciones estrictas (+5 puntos porcentuales). Sin embargo, esta mejora es sutil y no justifica completamente el aumento en el consumo de tokens. El análisis sugiere que el nuevo tokenizador podría estar enfocándose en representar el contenido, especialmente el código, en fragmentos más pequeños, lo que podría contribuir a una mejor precisión en el seguimiento de instrucciones, aunque esta relación causal aún necesita confirmación. En resumen, aunque Claude Opus 4.7 ofrece una ligera mejora en el rendimiento, los usuarios deben considerar el impacto económico del aumento en el consumo de tokens.