Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · simonwillison.net
Qwen 3.8 27B en mi portátil también sabe interpretar pesos de modelos
Simon Willison reproduce en local un experimento del paper «Sparks of Weight-Space Programming»: dar a un LLM los pesos en bruto de una red y preguntarle para qué juego se entrenó. Qwen 3.8 27B acierta tres de cuatro, aunque tarda casi una hora por prueba.
1 medio · MadridPublicada 3 nov, 19:25Actualizada 4 nov, 05:55· Ya no está en portadaEscrita por IA · cómo funciona
El paper de Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab, que sus autores llaman «blog post», sostiene que modelos de frontera como GPT-6 Astra pueden leer y modificar los pesos de una red neuronal, que se les pasan como texto con números en coma flotante. Lo llaman Weight-Space Programming. Entre los ejemplos, Astra corrige el 0,016 % de los pesos de Qwen3.5-0.8B y sube su resultado en MATH-500 del 7,9 % al 48,1 %.
Willison cree que el paper mezcla dos cuestiones que conviene separar: qué pueden hacer los modelos con pesos en bruto sin ejecutar código, y qué logran cuando tienen herramientas para actualizar otros modelos. Menciona que Matthew Honnibal, autor de spaCy, lo calificó de engañoso por esa mezcla, y que Sean Goedecke ve en el ejemplo de Qwen3.5-0.8B los mismos pasos que seguiría un investigador humano. Él se centra en la primera cuestión.
El experimento: cuatro redes entrenadas para jugar a versiones de cuadrícula 10x10 de Breakout, Pong, Pac-Man y Freeway. Se pasan los pesos a un LLM con la pregunta de cuál fue el juego, sin herramientas y en una sola respuesta. Los prompts están en el repositorio RikiyaT/lm_understand-logs. Willison los lanzó con su herramienta llm; Kimi K3.1 Pro acertó Breakout tras 9 min 41 s y 19.493 tokens de razonamiento.
Con Qwen 3.8 27B en LM Studio (17 GB, contexto largo y el timeout ampliado) acertó Pac-Man en 46 min 12 s con un 72 % de confianza, Pong en 1 h 4 min con un 75 % y Breakout en 52 min con un 88 %. Falló en Freeway, que tomó por un juego tipo Pac-Man. Los rastros de razonamiento son casi incomprensibles. Willison opina que una persona con papel y lápiz podría llegar al mismo resultado y que parte del comentario que rodea al paper no está justificado: no da por hecho que se acabe la era del código fuente.
«Qwen 3.8 27B on my laptop can interpret model weights, too» · puesto 30 · 698 puntos · enviado por theanonymousone
Lo que dicen los comentarios
La conversación se reparte entre el escepticismo y el entusiasmo. Hay quien recuerda que interpretar no es interpretar bien, aunque otro señala que el paper sí comprobó la corrección. Una pregunta recurrente es qué parte es comprensión real y qué parte entrenamiento previo, como neuronas ya conocidas o steering vectors, y si Qwen 3.8 podría tocar sus propios pesos. Otros cuestionan para qué editar pesos en vez de reentrenar o usar un LoRA; las respuestas citan quitar las rutas de rechazo o tratar texto-a-pesos como una función aprendible. Aparte, varios elogian Qwen 3.8 27B y comparan su uso local con el de modelos de frontera, y otro pide a Willison reproducir el experimento 5 del paper.
Puedo interpretar pesos, pero ¿será correcta la interpretación? Lo comparo con Enrique IV: cualquiera puede invocar a los espíritus, la cuestión es si acuden cuando se les llama.
Mi duda es cuánto es entrenamiento y cuánto comprensión real de los pesos. Un modelo de la misma generación probablemente no se entrenó con análisis de esa generación. Los casos de entrenar juegos me impresionan.
¿Hay algún buen argumento de que esto no escalará con el tiempo? Para quienes lo promocionan, lo importante es el cambio de paradigma que viene, más que el estado actual de la tecnología.
Porque texto-a-pesos es una función aprendible, como parece serlo todo lo demás. Si entrenamos modelos que editan imágenes, ¿por qué no modelos que editen modelos? ¿Para qué entrenar pesos si puedes pedirlos?
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.