Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · thedataexchange.media
IA, Lean y el futuro de la verificación formal, con Leo de Moura, creador de Lean
Ben Lorica entrevista en su pódcast a Leo de Moura, creador de Lean y científico distinguido de AWS. Hablan de cómo la IA abarata la verificación formal, de la confianza en el código generado por modelos y de un futuro centrado en especificaciones más que en código.
Foto: vía thedataexchange.media
1 medio · MadridPublicada 31 oct, 10:30Actualizada 31 oct, 16:45· Ya no está en portadaEscrita por IA · cómo funciona
Lorica plantea que generar código ya es fácil, aunque no necesariamente barato, y que el reto pasa a ser verificarlo. De Moura explica que Lean es a la vez lenguaje de programación y asistente de demostraciones: permite escribir código, enunciar propiedades (o conjeturas matemáticas) y aportar pruebas que una máquina comprueba. Para fiarse de un resultado basta confiar en el kernel de Lean, donde se revisa la prueba. Las pruebas son datos que se pueden exportar y validar con otros comprobadores; según De Moura, hay ya dos verificados y un tercero en camino.
Frente a los tests, incluidos los basados en propiedades, que sirven para encontrar fallos pero no para demostrar su ausencia, propone partir de las propiedades: escribirlas y pedir a la IA que implemente el código y una prueba en Lean que se compruebe automáticamente. Como ejemplo cita a su colega Kim Morrison, que portó zlib a Lean y demostró que comprimir y descomprimir devuelve los datos originales, sea cual sea el nivel de compresión.
Para código en otros lenguajes ve dos vías. Una es Aeneas, herramienta que verifica Rust con Lean y que usa el equipo de SymCrypt, la biblioteca criptográfica de Microsoft. La otra es pedir a una IA que construya un modelo del código en Lean, sea cual sea el lenguaje; De Moura dice que hace un año le habría parecido ciencia ficción. En matemáticas esto se llama autoformalización.
Lo que cambia para Lean, dice, es la escala. Mathlib, la biblioteca matemática escrita por humanos, tardó diez años en llegar a 2,5 millones de líneas, mientras que ya hay pruebas en Lean de 50 millones de líneas escritas por IA. Según De Moura, la de la demostración del último teorema de Fermat, escrita por la IA de Anthropic, tiene 13 millones. El resto de la conversación, que aquí no se recoge completa, trata de especificaciones, pila de software verificada, agentes de IA, matemáticas y otros campos como finanzas o derecho.
«AI, Lean, and the Future of Formal Verification, with Lean Creator Leo de Moura» · puesto 30 · 193 puntos · enviado por datascientist
Lo que dicen los comentarios
Los comentarios se centran menos en la entrevista que en cuestiones prácticas. Se discute si el testing basado en propiedades y el fuzzing, que los LLM facilitan, acabarán convergiendo con la verificación formal. Un usuario cuenta que genera millones de líneas de Lean 4, TLA+ y Rocq para un protocolo de trading, y otros recomiendan recursos para aprender a modelar especificaciones. También hay quien duda de que la verificación evite que un agente se pierda en tareas laterales, a lo que se responde que en verificación estándar las condiciones se combinan con un AND. Hay reservas por el vínculo de De Moura con AWS y cansancio con el entusiasmo por la IA.
El PBT y el fuzzing son casi lo mismo. Y decidir si un muestreo es exhaustivo se parece a una prueba formal. Creo que habrá convergencia: el testing aleatorio podría llamarse «verificación formal Monte Carlo».
La combinación ideal es Lean 4/TLA+ más IA más un generador determinista. Un humano solo debe comprobar que el generador produce bien las aserciones. Hemos generado millones de líneas de Lean, TLA+ y Rocq, y Lean detectó pasos incorrectos.
Los libros de Lamport y de Hillel Wayne son buenos. Las máquinas de estado como lenguaje de especificación son accesibles y profundas. Para asistentes de demostración, Software Foundations es genial y pasar de Rocq a Lean cuesta poco.
No sé si la verificación formal bien hecha evita que la IA dé vueltas en una tarea. Pido verificar un plato de pollo y el modelo se pone a investigar el origen de la salsa y la raza del pollo.
Parece que usas «verificación formal» con un sentido no estándar. En la verificación formal normal no hay problema: se verifica la conjunción «condición_1 Y condición_2».
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.