Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Programación · remy.wang
Wir müssen wissen – wir werden wissen
Un ensayo de Remy Wang recuerda el programa de Hilbert y su fracaso con Gödel y Turing, y lo compara con el presente: la IA y los asistentes de pruebas como Lean hacen realidad la «máquina de demostrar». El autor teme que en informática se deje de leer el código generado.
1 medio · MadridPublicada 2 nov, 16:40· Ya no está en portadaEscrita por IA · cómo funciona
El texto repasa la crisis de fundamentos de las matemáticas de hace un siglo. La paradoja de Russell mostró la inconsistencia de la teoría ingenua de conjuntos, y Hilbert planteó buscar un sistema de axiomas completo y consistente. Los teoremas de incompletitud de Gödel acabaron con ese programa, y Turing hizo lo propio con la otra meta de Hilbert, un algoritmo que decidiera la verdad de cualquier enunciado, al demostrar la indecidibilidad del problema de la parada.
Según el autor, los matemáticos se recuperaron pronto: se propusieron mejoras como la teoría de tipos de Russell, que se cree consistente aunque no pueda probarse, y las grietas apenas afectaron a las matemáticas que interesan a la mayoría. La teoría de tipos sirve hoy de base a demostradores interactivos como Lean. Wang señala la paradoja poética de que Gödel y Turing, al probar la imposibilidad, sentaron las bases de las máquinas de computar más potentes.
Un siglo después, escribe, vemos hecha realidad la «máquina de demostrar» de Hilbert en forma de agentes de IA con sistemas formales mecanizados como Lean. Cita a von Neumann: si la indecidibilidad fallara, las matemáticas tal como se entienden hoy dejarían de existir. Wang, que es informático y no matemático, dice notar en su disciplina un aire de abandono: se está volviendo habitual dejar de leer el código generado por IA, algo que considera una gran tragedia, porque la informática es de las pocas disciplinas donde se puede llegar al fondo de las cosas.
Su propuesta es actuar como los matemáticos, que ante una prueba generada por IA demasiado larga no renuncian a entenderla, sino que la simplifican hasta que es digerible. En computación, dice, hay que usar abstracciones, refactorizar, acotar el alcance e inventar lenguajes de más alto nivel hasta poder tener el código en la cabeza. Un programa es una prueba por la correspondencia de Curry-Howard, y renunciar a leerlo equivale a ignorar la demostración. Cierra con el lema de Hilbert, «debemos saber, sabremos», y advierte de los casos de personas que han perdido la vida por seguir consejos médicos de una IA.
«Wir müssen wissen – wir werden wissen» · puesto 27 · 38 puntos · enviado por remywang
Lo que dicen los comentarios
Con solo cuatro comentarios, la discusión gira en torno a qué nivel de abstracción es el adecuado para «tener el código en la cabeza». Uno plantea que nadie lee el ensamblador que generan C o Go y se pregunta si los documentos de diseño, o incluso una petición vaga, podrían ser el nuevo código. Otro responde que en software la especificación es el programa y que el problema de la parada sí nos afecta a diario, a diferencia de lo que ocurre con la incompletitud en las matemáticas. Los demás coinciden con el aviso del autor y temen que se repita lo ocurrido con las redes sociales.
¿Necesitamos tener en la cabeza el código máquina o el ensamblador generado a partir de C o Go? ¿Habrá que tratar los documentos de diseño como el código y el programa en Go como un derivado? ¿Cuál es el nivel de abstracción correcto y cómo se encuentra?
La comparación con Hilbert no me convence en nuestro campo. A los matemáticos la incompletitud no les bloquea el trabajo, pero en informática el problema de la parada nos afecta cada vez que hay que cortar un bucle infinito. En software, la especificación es el programa.
Es un recordatorio importante de que aún hay progreso por hacer en el desarrollo de software. Subiendo el nivel de las abstracciones, quizá guiando a los agentes hacia ellas, podríamos seguirlos mejor. Es muy tentador dejar que la IA rebaje los estándares.
Por desgracia es muy fácil y tentador perderse en la salsa: como sociedad entregamos la cabeza a las redes sociales y mira dónde nos ha llevado. Temo que con el desarrollo de software y la informática vayamos por el mismo camino.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.