Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · strandsagents.com

Amazon ahorra millones al sustituir Sonnet 4.6 por Strands Decider

Dos ingenieros de Amazon cambiaron Claude Sonnet 4.6 por Strands Decider, un modelo de decisión, para etiquetar tickets internos. Dicen que rinde igual con un 98 % menos de coste y que el ahorro será de millones de dólares al año. Cuentan cómo lo desplegaron y qué aprendieron.

Foto: vía strandsagents.com

Leer el artículo aquíArtículo original (strandsagents.com) 233 comentarios en Hacker News

Escucha la noticia3 min

Equipos de Amazon y AWS usaban Claude Sonnet 4.6 para etiquetar tickets de uno de los mayores sistemas internos de la compañía: escalados de clientes, peticiones de capacidad, alarmas automáticas o hallazgos de seguridad, todos ellos repartidos en 20 categorías. Sonnet recibía un prompt de sistema largo con cada ticket y devolvía un JSON tras razonar sobre un conjunto fijo de etiquetas. Los dos ingenieros lo sustituyeron por Strands Decider, un modelo de decisión lanzado hace un mes, que no genera texto: recibe un estado y una pregunta con opciones y devuelve una probabilidad por opción más una puntuación de confianza. Aquí el estado es el ticket y las opciones son el catálogo de etiquetas.

Probaron primero Strands Decider 2B, pero la versión E4B, basada en Gemma 4, dio mejores resultados, así que se quedaron con ella. Ajustaron el umbral de confianza necesario para aplicar una etiqueta y, según cuentan, E4B superó a Sonnet en producción sobre un conjunto distinto de tickets. Corre en instancias ml.g5.xlarge de SageMaker (una A10G de 24 GB), con unos 19 GiB de modelo y unos 640 ms por petición. El resto es AWS estándar: SQS, Lambda, AppConfig y CloudWatch, definido con CDK.

Para la migración usaron un interruptor de tres posiciones en AppConfig: BEDROCK (solo Sonnet), DUAL (ambos en paralelo, se aplica Sonnet y se comparan resultados) y DECIDER (solo Strands Decider). Midieron un tiempo medio por llamada de 897 ms frente a 4.215 ms (un 78 % menos) y 2.010 tokens por ticket frente a 6.724 (un 70 % menos). Para encajar en la ventana de 4.096 tokens reescribieron las 20 etiquetas como criterios de una o dos frases y añadieron una opción «ninguna»; en tickets largos el modelo descarta los comentarios más antiguos.

En costes, con precios de lista en us-east-1, Sonnet sale a unos 0,0222 dólares por ticket (unos 22.200 por millón) y Strands Decider a unos 0,0005 (unos 500 por millón): unas 44 veces menos. Un hallazgo inesperado: el orden de las claves del JSON cambiaba las probabilidades hasta en 0,19, así que ahora envían siempre las claves ordenadas. Advierten de que el método sirve porque la tarea es una elección cerrada de un catálogo conocido, con mucho volumen y latencia relevante; no vale si las etiquetas necesitan explicación, el catálogo cambia cada semana o el contexto útil no cabe en unos pocos miles de tokens. Y recomiendan copiar el interruptor de tres posiciones: volver atrás era un cambio de configuración de 45 segundos.

En Hacker News

«Amazon saves millions by replacing Sonnet 4.6 with Strands Decider» · puesto 19 · 670 puntos · enviado por aloukissas

Lo que dicen los comentarios

Buena parte de los comentarios se preguntan por qué Amazon usaba un LLM de frontera para clasificar tickets, cuando bastaría un clasificador clásico (SVM, scikit-learn, BERT). Algunos lo atribuyen al entusiasmo por la IA; otros lo ven como un MVP rápido que luego se abarata, algo habitual en una organización enorme. Hay quien aporta experiencia con modelos NLI y calibración, y quien recuerda que, para clasificación, un modelo de decisión se evalúa como cualquier clasificador. También hay dudas sobre el artículo: la confusión entre Strands Decider y Gemma (alguien explica que es un modelo existente con una cabeza nueva), si aquello es realmente un «agente» y si el cálculo del ahorro, que implicaría unos 92 millones de tickets al año, es plausible.

  • Montar un SVM no es difícil, pero hace falta un científico de datos y pensar bien el conjunto etiquetado. Es el equivalente en modelos a las apps Electron: se malgastan recursos a cambio de un desarrollo más fácil.
    — benrutter, leer el comentario
  • El LLM es un martillo que hace ver todo como un caso de uso de LLM. Muchos casos irían mejor con NLP, sistemas de decisión o motores de reglas que pagando por Opus.
    — zkmon, leer el comentario
  • Con unos 21.700 dólares ahorrados por millón de tickets, ahorrar millones al año exige al menos 92 millones de tickets. Con alarmas, hallazgos de seguridad y peticiones de capacidad la escala resulta más plausible, aunque sigue sorprendiendo.
    — Kaedon, leer el comentario
  • No es tan asombroso: Amazon tiene más de 70.000 ingenieros y en grandes organizaciones se pierden cosas. Parece un MVP con LLM cuyo coste se reduce una vez demostrado el valor.
    — infecto, leer el comentario
  • ¿Su solución ni siquiera es un «agente»? La salida tiene longitud 1. Tampoco queda claro que lo sustituido fuera un agente: parece un modelo de razonamiento sin herramientas que devuelve JSON.
    — seizethecheese, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.