La IA está acelerando drásticamente la investigación en IA
Un análisis sobre un informe público de METR sostiene que Anthropic ya habría cruzado el umbral de «progreso drásticamente acelerado por la IA» de su Responsible Scaling Policy. El autor, ajeno al informe, deduce que la IA multiplicaría por unas diez la productividad de los investigadores y que los plazos hacia la superinteligencia serían mucho más cortos.
Foto: vía planned-obsolescence.org
1 medio · MadridPublicada 6 nov, 22:15Actualizada 7 nov, 12:55· Ya no está en portadaEscrita por IA · cómo funciona
El texto parte de la declaración de Anthropic en su S1: podría «alcanzar inminentemente» el umbral definido en su RSP, que exige un progreso de capacidades al menos el doble de rápido que el máximo ritmo sostenido previo a que la IA contribuyera a la investigación en IA, atribuible a la automatización y no a más cómputo. El autor, que no participó en el informe ni vio la versión sin censurar, lee que ese umbral ya se ha superado.
Según el informe de METR, entre octubre de 2025 y octubre de 2026 el progreso de capacidades en Anthropic fue aproximadamente el doble de rápido que en los doce meses anteriores, medido con una versión interna del Epoch Capabilities Index llamada AECI. Gran parte de la evidencia de apoyo está redactada, igual que las razones para atribuir a la automatización la mayor parte de la aceleración actual.
El autor hace una estimación propia: como los «multiplicadores de cómputo» (mejoras de algoritmos y arquitecturas) son solo una parte de la capacidad efectiva, tendrían que crecer unas 2,5-3 veces más rápido. Con un modelo Cobb-Douglas sencillo, donde el cómputo de experimentos pesa tanto como el trabajo, el aumento de productividad de los investigadores debería ser el cuadrado de eso, de 4 a 9 veces, y quizá cerca de 10 una vez que las ideas fáciles se agotan más deprisa. Lo compara con el aumento de unas 12 veces que declaran los empleados de Anthropic. Lo describe como si cada investigador viviera diez días por cada día externo.
Los autores del informe no encontraron cuellos de botella ni rendimientos decrecientes acusados que frenaran una aceleración acumulativa. Si esta fuera suave, el autor calcula que el ritmo se duplicaría de nuevo en seis meses, luego en tres, luego en seis semanas, lo que llevaría a una superinteligencia extrema en un año, hasta topar con un techo de eficiencia del software que cree lejano. Cree que esos sistemas podrían desarrollar armas y someter a la humanidad si estuvieran mal alineados. Considera la seguridad de pesos y secretos algorítmicos un requisito mínimo y dice que la industria está lejos de cumplirlo.
«AI is dramatically accelerating AI research» · puesto 29 · 330 puntos · enviado por yurivish
Lo que dicen los comentarios
Los comentarios discrepan sobre todo del salto de «investigación más rápida» a «riesgo existencial». Un investigador de ML admite aceleraciones de hasta 10x en la parte computacional de su trabajo, pero ve un límite en lo que aportan los datos y duda de que desarrollar armas no requiera pruebas físicas. Otros replican con la persuasión de una superinteligencia. También se discute si los benchmarks miden un progreso «irregular» y entrenable, si el crecimiento se debe a más capital y enjambres de agentes o a mejores modelos, y si el entrenamiento y los datos son un cuello de botella. Algunos citan una réplica anterior de Ramez Naam y otros recuerdan que ya habría actualizado su postura.
Como investigador de ML, los LLM aceleran la investigación, quizá 10x en algunos casos. Pero solo en la parte computacional. Eso no implica una superintelligencia que acabe con el mundo: llegaremos antes al mejor modelo posible de los datos.
Aunque todo lo que dices fuera cierto, una superinteligencia podría tener una enorme capacidad de persuasión: convencer a humanos de hacer pruebas con armas y de darle la capacidad de usarlas.
Cada punto de estas gráficas mezcla varios benchmarks, que se pueden medir y, por tanto, entrenar con costosos bucles de RL. Lo que vemos es superinteligencia «irregular» limitada a dominios medibles; ya la tenían las calculadoras o los compiladores.
Me pregunto cuánto viene de la escala vertical de la inteligencia del modelo y cuánto del capital volcado en entrenar y de enjambres de agentes que exploran más espacio de búsqueda con gasto ilimitado de tokens.
Aunque la investigación en IA vaya 10x más rápida, ¿no seguimos limitados por la velocidad de entrenamiento? Procesar más de 10T tokens lleva su tiempo, y converger los pesos tiene límites fundamentales.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.