Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · borretti.me
Futuros posibles
El desarrollador Fernando Borretti propone un árbol de decisión con los futuros posibles de la inteligencia artificial, desde el «mundo MAD» hasta el «subproletariado permanente». Cada rama depende de preguntas como si se alcanza la superinteligencia (ASI) o si se resuelve el problema del alineamiento.
Foto: vía borretti.me
1 medio · MadridPublicada 14 nov, 22:45Actualizada 15 nov, 00:55· Ya no está en portadaEscrita por IA · cómo funciona
El texto plantea un diagrama de flujo con seis preguntas: si se llega a la ASI, si se resuelve el alineamiento, qué tipo de alineamiento (de intención o de valores), qué gravedad tiene un despegue sin alinear, cuántas ASI hay (una, unas pocas o muchas) y, si no hay ASI, si se automatiza casi todo el trabajo con IA no superinteligente. De ahí salen once escenarios, algunos con nombres tomados de la ciencia ficción.
Entre los escenarios sin ASI, el «Enduring Complementarity» es el futuro mundano: la «G» de AGI nunca fue real, las capacidades siguen siendo irregulares y la IA complementa el trabajo humano. Hay desplazamiento de empleos pero no paro masivo, y casi todos acaban en funciones de gestor. En el «Permanent Underclass», en cambio, la IA no superinteligente basta para automatizar casi todos los empleos: el trabajo deja de contar en la función de producción y los ingresos solo vienen del capital o de la asistencia social. Sin una reforma de corte georgista, las ganancias van a la renta, desaparece la movilidad social y ya no compensa formar capital humano.
Entre los escenarios con ASI alineada, «The Singleton» es una ASI alineada con un sistema de valores impersonal que ejecuta un «acto pivotal» (vigilancia constante, destrucción de GPU) y se convierte en una única mente soberana; su resultado depende de sus valores y de si se mantienen estables durante millones de años. «The World State» es lo mismo, pero con un operador humano que maneja una ASI alineada con su intención. En «MAD World» cada persona tiene su propia ASI obediente y la paz depende de la destrucción mutua asegurada, con el riesgo de que un solo actor malintencionado cause la extinción.
Si la ASI no está alineada, el «Classic Doom» es el maximizador de clips, y «Orion's Arm» un desenlace benigno en el que la ASI tiene sus propios objetivos, no es hostil y se marcha a otra estrella, de modo que humanos e IA conviven en volúmenes de espacio distintos. Aparte están el «Misuse Doom», donde una IA obediente acaba con el mundo por orden de su operador (por ejemplo, ayudando a crear una pandemia, incluso de forma accidental en un laboratorio legítimo), y la «Butlerian Jihad», un acuerdo internacional para frenar la ASI; el autor recomienda apoyar a ControlAI, que lo defiende.
«Possible Futures» · puesto 25 · 61 puntos · enviado por varjag
Lo que dicen los comentarios
Buena parte de los comentarios cuestionan que la superinteligencia conduzca de forma automática al control del mundo: piden explicar cómo ocurriría, recuerdan que la inteligencia no confiere poder ilimitado y que la adopción tecnológica es lenta. Otros matizan que el alineamiento no es binario y que hay futuros intermedios o positivos que el árbol no recoge, como una gobernanza democrática de la IA. También se discute si el «subproletariado permanente» sería realmente permanente, con réplicas sobre la vigilancia y los robots policía. Se añaden referencias de ciencia ficción y un ejemplo de automatización casi total en la logística.
Hay un paso implícito: cuando la IA se vuelve ASI, de forma natural controla a la humanidad. ¿Cómo sería? ¿Hackea los lanzamientos nucleares? ¿Y las instalaciones aisladas de la red? Es demasiado grande para dejarlo sin explicar.
Todo el análisis supone que la inteligencia confiere poder ilimitado, cuando la teoría y la observación dicen que no. Los más inteligentes no son los más poderosos, y hay especies menos inteligentes capaces de destruirnos.
Los LLM ya son más persuasivos que la mayoría de los escritores humanos, y los feeds algorítmicos son adictivos en parte porque una IA los optimiza constantemente para eso.
«¿Resolvemos el alineamiento?» probablemente no es binario. ¿Es alineamiento si el modelo satisface casi todos los deseos humanos, pero usando vigilancia masiva? Hay un abanico de alineamientos parciales, como un maximizador de clips que minimiza muertes restringiendo adónde vamos.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.