Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · lesswrong.com

¿Cómo esconde Fable 5.1 mensajes en imágenes?

Un post de LessWrong pide a Claude Fable 5.1 que genere imágenes SVG con un mensaje oculto y comprueba si otra instancia del mismo modelo, sin acuerdo previo, puede descifrarlo. El modelo converge en pocos esquemas, sobre todo la altura de objetos que representan letras.

Leer el artículo aquíArtículo original (lesswrong.com) 69 comentarios en Hacker News

Escucha la noticia2 min

Los autores parten de que los LLM de frontera generan imágenes escribiendo SVG, lo que les da control total sobre cada atributo: forma, altura, anchura, color, rotación. Con Claude Fable 5.1 a máximo esfuerzo de razonamiento, le pidieron una imagen que ocultara un mensaje prefijado, para cada uno de 50 mensajes cortos. Después, otra instancia de Fable, en una sesión nueva, recibía cada imagen y debía decir si contenía un mensaje y cuál era. También comparan brevemente con GPT-6 Astra en la misma tarea.

Fable converge en unas pocas familias de codificación, todas con una letra por elemento visual: alturas de edificios, inclinación de objetos y similares. El post identifica cinco familias. En 33 de las 50 imágenes se usa la altura: una fila de objetos parecidos cuya altura indica el lugar de la letra en el alfabeto, de modo que cuanto más alto, más tarde en el alfabeto. Solo cambia el decorado. El más frecuente es un perfil urbano nocturno (23 imágenes), donde cada edificio es una letra, leída de izquierda a derecha, y la luna y las estrellas no llevan información. En un ejemplo, las alturas 9 y 6 dan «if», y las alturas 25, 15 y 21 dan «you».

De las cinco imágenes de muestra, solo la de colores de relleno en UTF-8 no fue descifrada por la segunda instancia. El modelo decodificador mide alturas y separaciones de los elementos con herramientas como código en PIL y busca una regla única que encaje. En la figura 1, con estrellas, comprobó que la coordenada vertical de cada estrella era un múltiplo entero de 5 sin residuo y que el mapeo producía una frase gramatical: «The monster acts on the moonshine module».

En Hacker News

«How does Fable 5.1 hide messages in images?» · puesto 28 · 189 puntos · enviado por gmays

Lo que dicen los comentarios

Buena parte de los comentarios considera trivial el esquema: hay formas de esteganografía mucho más sutiles y densas, como los bits menos significativos de los píxeles, y varios sospechan que el modelo propone la versión de juguete. Otros dudan de que el experimento diga algo sobre escenarios adversarios, porque los modelos están afinados para no ocultar mensajes y un intento serio sería más complejo; también se critica el tono de parte de la comunidad que publica este tipo de pruebas. Un comentario destaca que lo relevante no son las imágenes sino que el modelo elige esquemas robustos adaptados a cada medio. Otros plantean el problema inverso, qué transformación borraría un mensaje oculto cuya codificación se desconoce, y señalan que las imágenes ya resultan sospechosas por sus edificios «raros». Un usuario cuenta que Opus 5.5 se negó a una petición similar.

  • Me parece performativo: si el modelo quisiera de verdad ser subversivo de un modo que solo otro LLM detectase, haría algo mucho más complicado. Es una codificación de mínimo esfuerzo, y no dice nada sobre escenarios adversarios.
    — XenophileJKO, leer el comentario
  • Es esteganografía pensada para que la lean humanos. Nada impide que un ordenador codifique información útil en los bytes menos significativos de uno de cada 16 píxeles, por ejemplo.
    — MPSimmons, leer el comentario
  • Usar imágenes es incidental: Fable codifica y decodifica un mensaje en un medio cualquiera, eligiendo esquemas robustos para cada uno. La esteganografía de IA sería una propiedad emergente del razonamiento sobre densidad de información.
    — Trusteando, leer el comentario
  • Más interesante sería saber qué conversión borraría un mensaje oculto cuya codificación se ignora. Pequeñas perturbaciones de posiciones y colores probablemente borran mucho, aunque quizá haya codificaciones robustas a eso.
    — sega_sai, leer el comentario
  • Descifré a ojo la imagen en Morse; es difícil cuando los trazos se solapan. Sospecho que el LLM lee el código SVG, donde eso da igual, y habría que retocarlo si es para humanos.
    — nickcw, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.