Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · dwarkesh.com
El alud que cayó sobre las matemáticas llega al desarrollo de la IA
Dwarkesh Patel sostiene que estamos a un par de años, y quizá a un par de meses, de IA tan buena como los mejores investigadores humanos en IA. Cree que esa automatización comprimirá tanto progreso en un año que hacia 2030 habrá IA al nivel de los mejores expertos en cualquier campo.
Foto: vía dwarkesh.com
1 medio · MadridPublicada 13 nov, 20:40· Ya no está en portadaEscrita por IA · cómo funciona
Patel cuenta que hace unos meses habría estimado la superinteligencia a casi una década vista, pero que en los últimos tres meses ha cambiado de opinión. Como prueba de que la IA ya acelera su propio desarrollo cita a METR, que tras tres meses dentro de Anthropic concluyó que su ritmo de progreso en tareas bien acotadas es el doble que hace un año, en buena parte por el uso intensivo de IA en I+D. OpenAI informó de que el 10% de sus investigadores que más usan agentes de programación pasó de gastar unos 1.000 dólares diarios a más de 7.000 entre el comienzo del verano y finales de agosto. Anthropic dice que Claude «lidera» más del 26% de su trabajo de I+D en IA, frente a menos del 1% en febrero.
El autor pone las matemáticas como señal: de que un modelo no sumara de forma fiable números de cuatro cifras en 2023, a ganar una medalla de oro en la Olimpiada Matemática Internacional en 2025, a resolver problemas abiertos de Erdős y, según él, un problema del Milenio en 88 horas. Reconoce, citando a Toby Ord, que el avance se concentra en las partes con más verificación, como hallar contraejemplos, y que hay poca evidencia de que la IA sepa plantear preguntas profundas o abrir campos nuevos.
Su argumento es que eso pesa más en la investigación en machine learning que en matemáticas. Las matemáticas buscan ampliar la comprensión de los conceptos; los laboratorios de IA solo quieren saber si una receta algorítmica hace el entrenamiento más eficiente o los modelos más listos, y el aprendizaje profundo de los últimos quince años ha requerido poca teoría nueva. Pone de ejemplo el transformer: casi todas sus piezas ya estaban en la literatura, y combinarlas exigió gusto investigador pero también muchísimos experimentos pequeños, justo lo que la IA hace bien.
Admite que algunas partes de la investigación en IA son menos verificables que las matemáticas, y por eso OpenAI no ha despedido a sus investigadores. Aun así, calcula que la IA igualará a los mejores humanos en este campo hacia 2028 si los laboratorios no frenan a propósito. Los detalles técnicos de por qué la considera suficientemente verificable los deja en un apéndice.
«The avalanche that hit math is coming for AI development» · puesto 8 · 33 puntos · enviado por crescit_eundo
Lo que dicen los comentarios
Los comentarios son bastante escépticos. Varios cuestionan la premisa: si la investigación en IA fuera un dominio verificable, quién construiría los benchmarks para tareas que no lo son, y por qué lo aprendido en las verificables se generalizaría. Otros contrastan el entusiasmo del artículo con su práctica diaria, donde los agentes requieren mucha guía y herramientas, o con empresas que producen mucho código con IA sin mejorar sus productos. Hay quien recuerda que Dwarkesh era escéptico hasta hace poco, y quien, desde la investigación, cuenta que gran parte del trabajo experimental ya se delega en agentes, pero que eso también inunda el campo de artículos basura. Una parte de la discusión deriva hacia la concentración de poder: la desigualdad entre laboratorios, la oligarquía tecnológica y la renta básica universal.
Si la IA es un dominio verificable, ¿cómo consiguen las IA construir benchmarks para aplicárselos a sí mismas? Las tareas no verificables exigen que los humanos definan qué es hacerlo bien, y la hipótesis de la automatización depende de que el progreso se generalice.
Dwarkesh llevaba tiempo siendo escéptico, así que el cambio es reciente. Pero no encaja con mi práctica diaria: los modelos necesitan muchísima guía para producir sistemas sencillos, y que suba el gasto diario de los investigadores no prueba nada.
Muchas empresas creen obtener beneficios parecidos con IA en programación e investigación, pero no han mejorado sus cuentas ni creado productos nuevos. Mis dos últimos empleadores producen una cantidad enorme de salida de IA, sin impacto visible salvo productos peores.
Gran parte de la investigación en IA ya se puede automatizar; la parte experimental, a agentes. Lo más difícil sigue siendo contar bien los resultados en un artículo. Y ya hay un alud de basura de IA, ahora producida en cadena.
Por eso el control distribuido o abierto de los modelos de IA debería ser un objetivo de los reguladores: si la IA acelera su propio desarrollo, las empresas privadas que van meses por delante abrirán cada vez más la brecha.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.