Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Seguridad · blog.cloudflare.com

Exposición de la KV cache entre peticiones en el modelo GLM-5.3 de Workers AI

Cloudflare explica que, entre el 27 de agosto y el 9 de septiembre de 2026, 155 respuestas del modelo GLM-5.3 en Workers AI contuvieron datos de peticiones de otros clientes. La causa fue una mala configuración propia y un bug en SGLang. Dice no haber hallado explotación deliberada.

Foto: vía blog.cloudflare.com

Leer el artículo aquíArtículo original (blog.cloudflare.com) 66 comentarios en Hacker News

Escucha la noticia3 min

Cloudflare fue avisada el 8 de septiembre por el investigador Gadi Evron, de Knostic, a través de HackerOne. Según su informe, los prompts muy largos enviados a @cf/zai-org/glm-5.3 devolvían a veces texto de sesiones de otros usuarios. La empresa reprodujo el fallo a la mañana siguiente, retiró el modelo en 40 minutos desde que declaró el incidente y lo restauró ese mismo día. Asegura que ningún otro modelo de Workers AI se vio afectado. Todas las respuestas afectadas correspondían a prompts de más de 681.280 tokens, y los casos identificados, descontadas las pruebas propias y las del investigador, son compatibles con un uso normal de contexto largo.

El primer problema fue de configuración. Cloudflare desplegó GLM-5.3 con una ventana de contexto de 1.048.576 tokens, pero el pool de KV cache de las GPU de prefill solo tenía espacio para 681.280. Conocían el desajuste antes del lanzamiento: esperaban que el motor devolviera un error ante cualquier prompt que no pudiera procesar, y sus pruebas de contexto largo devolvían respuestas correctas, así que no lo consideraron un problema. Solo validaron códigos HTTP y rendimiento, no la coherencia de la salida del modelo.

El segundo fue un bug de SGLang, el motor de inferencia open source que usa Cloudflare, en el modo desagregado de prefill/decode. Un prompt que no cabía en el pool se marcaba como rechazado y se sustituía por un marcador de un token, pero las colas de admisión comprobaban si la petición había terminado, no si estaba rechazada, y la daban por viva. Prefill generaba la KV cache del marcador y la enviaba al nodo de decode, que daba por hecho que se había sobrescrito la caché anterior con el prompt completo. En realidad la mayor parte del estado previo seguía intacto, de modo que la respuesta se generaba sobre páginas de caché con datos de peticiones anteriores. Las páginas de KV cache no se ponen a cero entre peticiones, por lo que es el motor quien debe controlar su propiedad.

Para corregirlo, Cloudflare ajustó la configuración, igualándola a la de GLM-5.2, de modo que el pool de prefill admite unos 2,04 millones de tokens, el doble del contexto. Además parcheó el motor para que una petición rechazada se retire en la cola de admisión con su error original, antes de reservar memoria o transferir caché. La corrección ya estaba en SGLang main (#36988) y la propuesta de Cloudflare (#38704) se ha seguido en parte con #38935. SGLang v0.5.21 incluye el arreglo. Cloudflare comprobará ahora el tamaño del pool frente al contexto desde el motor en ejecución antes de cualquier despliegue desagregado.

En Hacker News

«Cross-request KV cache exposure in the GLM-5.3 Workers AI model (155 responses)» · puesto 30 · 164 puntos · enviado por wondersky

Lo que dicen los comentarios

Buena parte de la conversación gira en torno al título. Varios comentaristas sostienen que mencionar GLM-5.3 señala injustamente al modelo, cuando el fallo es de Cloudflare y de SGLang, y proponen títulos más genéricos. Un empleado de Cloudflare responde que el nombre del modelo identifica el endpoint afectado y que el texto atribuye el fallo a la configuración y a SGLang; otro usuario señala que el título dice «Workers AI model», es decir, un producto de Cloudflare. Hay también reacciones al análisis: se valora la asunción de responsabilidad y la explicación de por qué fallaron las pruebas, pero se cuestiona que recibir éxito donde se esperaba un error no se investigara. Alguien discute si Cloudflare anunciaba un contexto que no podía servir y otro lo matiza: el límite afectaba solo al prefill de una petición única. Además, algunos usuarios cuentan fugas parecidas en otros servicios.

  • Esto no tiene que ver con GLM-5.3. Es lo que pasa cuando compartes modelos entre usuarios y no llevas bien la contabilidad. Es un bug de SGLang y de Cloudflare antes que del modelo de Z.AI; Cloudflare debería asumirlo sin nombrar a terceros inocentes.
    — jacquesm, leer el comentario
  • En ningún momento decimos que sea un bug del modelo. Explicamos que fue una mala configuración nuestra y un bug de SGLang. Nombramos el modelo porque los clientes necesitan saber qué endpoint se vio afectado.
    — kflansburg, leer el comentario
  • Me descolocó la frase de que esperaban un error pero obtuvieron respuestas correctas. Seguro que esperar un error y recibir una respuesta con éxito merece una investigación, no seguir adelante.
    — ComputerGuru, leer el comentario
  • Entiendo que solo se puede hacer un prefill único de hasta 681k tokens. Se evita perder caché en sesiones tan largas y casi nunca hay peticiones sueltas tan grandes; una sesión normal de programación con muchos turnos llegaría a 1M sin problema.
    — hedgehog, leer el comentario
  • Me gusta este análisis de causa raíz más que la mayoría. Aprecio que asuman la responsabilidad y expliquen con claridad por qué sus pruebas no detectaron el bug, además de la rapidez para retirar el modelo.
    — kami23, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.