Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · anthropic.com

Avances en inferencia demostrable para modelos de lenguaje

Anthropic publica FlashProve, un sistema de código abierto que usa zkSNARKs para demostrar criptográficamente que una respuesta la ha generado un modelo concreto, sin revelar sus pesos. Con Llama 4 Maverick en una sola H100 genera unas 110 tokens por segundo, a un coste de 70-95 veces el de ejecutar el modelo.

Foto: vía anthropic.com

Leer el artículo aquíArtículo original (anthropic.com) 118 comentarios en Hacker News

Escucha la noticia3 min

Hoy un usuario no puede comprobar que la respuesta que recibe viene del modelo que el proveedor dice servir. Podría haberlo sustituido un servicio de enrutamiento para ahorrar costes, o un atacante que manipule el flujo de tokens. Juzgar solo por la calidad de la salida no es fiable. La inferencia demostrable (PI) busca que un usuario con pocos recursos y sin acceso a los pesos verifique que la respuesta procede del modelo solicitado.

El sistema, llamado FlashProve, se basa en zkSNARKs: el proveedor se compromete con un modelo y adjunta a cada respuesta una prueba breve, de unos megabytes, que el cliente verifica rápido en una CPU y que no revela nada sobre los pesos. Con Llama 4 Maverick (400.000 millones de parámetros, mixture of experts, pesos en 4 bits y aritmética entera en el prefill), una H100 genera pruebas a unas 110 tokens por segundo, con ~19 MB por petición de 1.024 tokens. Según los autores, eso equivale a entre 70 y 95 veces el tiempo de GPU de ejecutar el modelo en vLLM, y los sistemas abiertos anteriores son órdenes de magnitud más lentos. No se oculta la arquitectura del modelo, solo los pesos.

Los autores señalan que Claude aportó mejoras de optimización, pero que sus decisiones son difíciles de evaluar en sistemas grandes. Por eso ofrecen enunciados de seguridad auditables en Lean, un lenguaje de verificación formal. Publican la entrada del blog, un informe técnico, una especificación del protocolo escrita por Claude, código ejecutable (un prover y dos verificadores, uno rápido en C++ y otro demostrablemente correcto en Lean) y las pruebas en Lean con un visualizador, todo bajo licencia Apache 2.0.

Entre los usos que plantean están los evaluadores independientes que necesitan saber que el modelo evaluado es el que se sirve, los clientes que acceden por servicios de enrutamiento de terceros y la detección de manipulaciones en servidores de inferencia comprometidos. También lo ven como herramienta para verificar requisitos de regulación del ritmo de desarrollo de la IA, por ejemplo que el hardware se dedica a inferencia y no a entrenar. Aclaran que esto no demuestra que no se entrene en paralelo. Es trabajo intermedio, publicado para que otros lo mejoren.

En Hacker News

«Progress on provable inference for large language models» · puesto 29 · 232 puntos · enviado por ltononro

Lo que dicen los comentarios

Los comentarios discuten sobre todo la utilidad práctica. Algunos creen que verificar el modelo es poca cosa si ya confías en el proveedor; otros replican que es justo la queja más frecuente de los usuarios (modelos más baratos o cuantizados sin avisar) y que sirve con proxies o enrutadores intermedios. Se debate también si los zkSNARKs son la vía adecuada frente a la atestación remota con enclaves como los de NVIDIA, o frente a repetir el cálculo en modelos abiertos, y si el sobrecoste de 70-95x es asumible. Surgen dudas técnicas: la prueba cubre una versión entera de los pesos y decodificación greedy, no muestreo. Un comentarista que trabajó en VerInf, un proyecto previo, se queja de la poca atribución, aunque otro señala que el artículo lo cita. Alguien de Attestable presenta su propia solución, y hay quien pide extender la idea a demostrar con qué datos se entrenó un modelo.

  • Esto se construye sobre VerInf, trabajo que hice como becario de MARS. Han copiado todo, hasta la elección de Maverick 400B, con muy poca atribución. Genial, supongo...
    — neuwirth, leer el comentario
  • Demostrar la inferencia es más difícil con un proveedor de modelo cerrado que con uno abierto. Y Anthropic tiene incentivos para mantener secretas partes del pre-prompt; si las pruebas no lo permiten, no querrá enviarlas en general.
    — vessenes, leer el comentario
  • ¿Es tan difícil? Con la atestación remota y los enclaves de NVIDIA el sobrecoste es del 2 %, frente a más de 100x y pruebas de gigabytes con ZKP. Nunca ha sido competitivo.
    — mike_hearn, leer el comentario
  • Con modelos de pesos abiertos basta con repetir el cálculo. Pero la inferencia demostrable es inevitable: puedes probar que un modelo escribió un poema o aprobó un pull request, una primitiva más potente que una firma.
    — nemo1618, leer el comentario
  • Que un modelo más barato te cuele por el caro es la queja más común de los usuarios de Anthropic, y hoy no hay mecanismo para verificarlo. Si lo resuelven, ese ruido de «hoy Opus va peor» podría desaparecer.
    — velcrovan, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.