Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · oshea00.github.io

Herramientas para explorar el alma de los grandes modelos de lenguaje

El autor presenta TinyGPT Visualizer, una herramienta open source para ver el interior de un modelo de lenguaje real, aunque pequeño, con todas sus piezas en pantalla. Nace como una forma de explorar y probar técnicas de interpretabilidad mecanicista, un campo que ha crecido mucho desde 2021.

Foto: vía oshea00.github.io

Leer el artículo aquíArtículo original (oshea00.github.io) 8 comentarios en Hacker News

Escucha la noticia2 min

El artículo arranca con un chiste de Woody Allen sobre mirar el alma del compañero de examen para plantear que hoy todo el mundo busca almas en los LLM. Menciona una conferencia celebrada el pasado abril por Anthropic con expertos en religión y pensadores para debatir la naturaleza del alma en relación con sus modelos Claude.

El autor señala que empresas como Anthropic y OpenAI han sido criticadas por dedicar más dinero de cómputo a mejorar los modelos que a la investigación en seguridad. La interpretabilidad mecanicista, el campo que estudia qué ocurre dentro de estos modelos, ha pasado de un puñado de investigadores en 2021 a cientos de contribuyentes activos, pese a la falta de financiación y de grandes foros.

Con ese contexto, creó TinyGPT Visualizer con objetivos modestos: una herramienta para repasar el campo y probar las técnicas para entender cómo funcionan. Lo imaginó como una máquina de rayos X capaz de mirar dentro de un modelo real, no de juguete, pero lo bastante pequeño como para verlo entero en pantalla con todas sus partes.

Según el autor, a diferencia de un cerebro humano, los números de un modelo se pueden examinar mientras se forman los «pensamientos», sin dañar al paciente, y se pueden rastrear en busca de patrones y algoritmos que expliquen lo que el modelo genera. Si hay emociones bien formadas, dice, estarán en los números; y se pregunta si la filosofía y la religión podrán ayudar. El código, las instrucciones y la documentación están en GitHub (oshea00/tinygpt-viz).

En Hacker News

«Tools for exploring the souls of large language models» · puesto 27 · 28 puntos · enviado por r00tanon

Lo que dicen los comentarios

La conversación es breve y se reparte entre dos asuntos. Un comentario subraya que entender cómo llegan los modelos a sus predicciones, con las técnicas de interpretabilidad mecanicista, está al alcance de cualquiera que quiera aprender. Otro se centra en el «alma» del título y sostiene que el concepto es ficticio; la réplica le discute que eso no se parece a lo que describe ninguna de las religiones habituales, y remite al artículo de Wikipedia sobre el alma.

  • La necesidad de entender cómo llegan los modelos a sus predicciones, y las técnicas de interpretabilidad mecanicista, están al alcance de cualquiera que tenga ganas de aprender.
    — r00tanon, leer el comentario
  • El concepto entero de alma es ficticio, algo que nos hemos inventado. Cuando son tortugas hasta el fondo, nunca se encuentra la tortuga de abajo del todo.
    — annoyingnoob, leer el comentario
  • No se parece en nada a cómo se describe el alma en ninguna de las religiones que conocen los wikipedistas. Enlaza al artículo «Soul» de Wikipedia.
    — t_gamer_kle, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.