Amazon reduce costes en 98% sustituyendo Claude Sonnet por Strands Decider

Fuentes: Amazon cuts costs by 98% by replacing Claude Sonnet with Strands Decider

Amazon y AWS han sustituido el modelo de lenguaje Claude Sonnet 4.6 por Strands Decider en su sistema interno de gestión de tickets, logrando una reducción del 98% en los costes de tokens. Esta decisión, tomada por ingenieros de Amazon, permite ahorrar millones de dólares anuales al procesar escaladas de clientes, solicitudes de capacidad y alarmas automatizadas. El modelo anterior, Sonnet 4.6, generaba texto y JSON para clasificar 20 categorías, mientras que Strands Decider, un modelo de decisión, devuelve probabilidades y puntuaciones de confianza para cada opción disponible. La implementación utiliza instancias SageMaker ml.g5.xlarge con una latencia de 640 ms por solicitud, frente a los 4.215 ms de Sonnet. Además, la reducción de tokens por ticket pasa de 6.724 a 2.010 gracias a la eliminación de la generación de texto extenso. El sistema opera con un interruptor de tres estados (BEDROCK, DUAL o DECIDER) que permite alternar entre ambos modelos o ejecutarlos en paralelo para validar resultados. Esta transición demuestra la viabilidad de los modelos de decisión para tareas de clasificación cerradas de alto volumen, ofreciendo una alternativa más eficiente y económica para agentes de IA que requieren velocidad y control de costes.