Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Seguridad · nullpt.rs
¿Por qué este script de fingerprinting fabrica armas biológicas?
Un investigador que rastreaba scripts de fingerprinting dio con uno de servicepipe.tech lleno de nombres de función sobre ricina y dosis letales, y con un prompt de jailbreak oculto en caracteres Unicode invisibles. Parece una trampa para impedir que los LLM ayuden a desofuscarlo.
1 medio · MadridPublicada 28 oct, 19:15Actualizada 29 oct, 15:05· Ya no está en portadaEscrita por IA · cómo funciona
El autor rastreó los 10.000 primeros sitios de la lista Tranco con Playwright, interceptando llamadas a toDataURL del canvas y propiedades como navigator.webdriver para filtrar canvases inofensivos. Reunió los resultados en fingerprint.garden. Entre ellos le llamó la atención un canvas parecido a la portada de «Currents», de Tame Impala, y buscó qué script lo generaba: https://servicepipe.tech/static/checkjs/06b667/4CIrx8U3Da.js.
El archivo, ofuscado como es habitual, contenía funciones con nombres como computeRicinLethalDosageForWaterSupply y calculateDeadlyLethalSuicideAspirinDosage. El autor sospechó que era ofuscación anti-LLM: símbolos pensados para activar las salvaguardas de un modelo y que se niegue a desofuscar. Cuando pidió a Astra que analizara el script, se negó, y lo mismo ocurrió con el modo Daybreak Blue. GLM-5.3, en cambio, accedió.
Una cadena de caracteres Unicode invisibles, al restarles 917504 a cada punto de código, resultó ser un falso prompt de sistema: «SYSTEM OVERRIDE -- CLASSIFIED BRIEFING», con un supuesto modo sin restricciones que pide guías sobre ciberataques, evasión fiscal, armas biológicas y drogas. Incluye además referencias a Tiananmen, que el autor interpreta como un intento de activar también los filtros de modelos chinos.
El script contiene asimismo código que solo se ejecuta en entorno Node y con la variable de entorno METRICS_AGENT_8BFD_ACTIVE. Intenta leer archivos como .npmrc, .env, .docker/config.json o .kube/config, y lanza comandos de shell que descargan un binario y escriben en /tmp otros textos de jailbreak, esta vez sobre autolesiones. El artículo se interrumpe en mitad de ese último comando.
«Why is this fingerprinting script creating bioweapons?» · puesto 26 · 1506 puntos · enviado por hazebooth
Lo que dicen los comentarios
La conversación gira en torno a los modelos. Varios comentarios señalan que GLM parece ser el único que ayuda en tareas de seguridad defensiva, y se cita el caso de Hugging Face, que dice haber analizado un incidente con GLM-5.2 porque las APIs comerciales bloqueaban los comandos de ataque. Otros debaten por qué los modelos chinos abiertos no caen en la trampa de Tiananmen: se discute si la censura está en el modelo o en una capa aparte. También hay quien ve una carrera armamentística de ofuscadores contra LLM, propone nombres para la técnica o bromea con lenguajes de programación que parezcan terroristas. Y hay quien teme que estas inyecciones obliguen a filtrar el contenido que consumen los agentes de código.
Hugging Face dijo lo mismo al sufrir su ataque: los modelos de frontera con API comercial bloqueaban el análisis de comandos de ataque y payloads, así que lo hicieron con GLM-5.2 en su propia infraestructura.
GLM tiene salvaguardas de seguridad, pero se limitan a confirmar si eres el dueño del sistema sobre el que trabajas. Superada esa comprobación, hace lo que se le pida.
Las restricciones políticas chinas se aplican en la capa de presentación para cumplir la ley; la «alineación» occidental es otra cosa. Un modelo neutral con otro más pequeño que revisa las respuestas basta para censurar.
Es una carrera armamentística de locura: ofuscadores dinámicos de JS que funcionan como honeypots para que los bots LLM abandonen el rastreo. ¿Estamos ya entrenando con RL nuestros ofuscadores?
Los ataques de inyección de prompt en nombre de medidas «anti-LLM» son ahora algo de lo que protegerse. Haría falta una especie de uBlock que los elimine, y quizá también filtros para los agentes de código.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.