Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · deepmind.google

AlphaProof Code

Google DeepMind presenta AlphaProof Code, un framework de agentes con varios LLM que ha verificado formalmente en Lean propiedades de seguridad del código real del protocolo de Signal, hasta el binario. Según DeepMind, es la primera vez que se hace con una implementación de un protocolo criptográfico tan extendido.

Foto: vía deepmind.google

Leer el artículo aquíArtículo original (deepmind.google) 187 comentarios en Hacker News

Escucha la noticia2 min

DeepMind explica que sus investigadores guiaron a agentes de IA para demostrar matemáticamente propiedades clave de seguridad del código del protocolo Signal, que usan Signal y Google Messages. AlphaProof Code reparte el trabajo como un equipo de investigación: expertos humanos y modelos deciden qué demostrar y un grupo de agentes hace las pruebas. La verificación formal, es decir, demostrar matemáticamente que el código funciona sin fallos, es el estándar más alto de garantía, pero resulta difícil y laboriosa.

El proceso empezó con la traducción de los objetivos de seguridad de Signal a especificaciones matemáticas formales, con revisión humana de cada una. Después, agentes basados en Gemini Carbon generaron más de seis millones de líneas de Lean, el lenguaje en el que se comprueban las pruebas. Los agentes auditaron luego la demostración y señalaron lo que debía mirar una persona, solo un 1 % del código. Lean comprueba automáticamente el resto.

Según DeepMind, la mayoría de las verificaciones de protocolos se queda en el diseño, mientras que aquí se probó que el código compilado cumple propiedades como mantener protegidos los mensajes antes y después de que un dispositivo quede comprometido temporalmente. La verificación llevó cuatro semanas, una tarea que históricamente exige años a equipos expertos. Para comprobar que el sistema distingue código correcto de código con fallos, reintrodujeron dos bugs reales ya corregidos y en ambos casos produjo una prueba comprobada por máquina de que esa versión era insegura.

DeepMind abre los artefactos de verificación formal para la comunidad y apunta a otros sistemas, como el firmware de dispositivos médicos o el software de redes eléctricas. Reconoce que escalar estas técnicas requiere más investigación y las plantea junto a agentes defensivos como CodeMender.

En Hacker News

«AlphaProof Code» · puesto 19 · 659 puntos · enviado por ilreb

Lo que dicen los comentarios

La discusión gira en torno a qué se ha demostrado exactamente. Varios comentaristas desconfían de que no aparezca ningún bug y recuerdan que una prueba correcta puede corresponder a un teorema equivocado o demasiado estrecho: lo verificado son propiedades de seguridad según un modelo formal, no la ausencia de errores. También se pregunta cómo se garantiza que la especificación en Lean y el modelo del procesador reflejen la realidad. Otros aportan experiencia propia con Lean y agentes: la IA puede hacer trampas y conviene una revisión adversaria. Hay entusiasmo por llegar hasta el binario con semántica ARM, aunque se señala que las 26.000 líneas de especificación son una base de confianza considerable. Un debate paralelo discute si la verificación formal puede extenderse más allá de la criptografía.

  • No probaron que el código no tenga bugs, sino que ninguno de los actuales, conocidos o no, rompe la seguridad según su modelo de seguridad formalizado. El código Lean generado solo se comprueba contra esas especificaciones.
    — derefr, leer el comentario
  • Me impresionó la refactorización de la IA hasta que vi que lo había implementado todo al revés y peor que antes. Podría haberme escrito una prueba matemática y habría pasado, con el código igualmente mal.
    — andai, leer el comentario
  • La IA puede hacer trampas al escribir Lean, así que hace falta al menos otro prompt adversario que lo revise. Lo valioso de convertir a Lean es lo que revela de las asunciones: a mí me encontró pequeños fallos.
    — r0ze-at-hn, leer el comentario
  • ¿Cómo se garantiza que el código Rust compilado sobre un modelo en Lean de un procesador haga lo mismo que uno real? ¿Y que la especificación en Lean coincida con lo que implementa Signal?
    — ane, leer el comentario
  • Lo que podemos verificar sigue siendo diminuto. Funciona bien para «el programa no se cuelga», pero es muy difícil para «este cifrado es seguro», y casi imposible para una GUI que habla con una base SQL.
    — viraptor, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.