El autor parte del debate surgido tras entrar en vigor las directrices de transparencia de la Ley de IA de la UE y el anuncio de que los principales laboratorios marcarán su texto. John Gruber criticó que Anthropic altere el texto de Claude con una marca oculta y que se sacrifique «un ápice» de claridad o calidad. Otros, como Daniel Jalkut, respondieron que la marca solo cambia los números aleatorios usados para generar el texto, sin reducir su aleatoriedad.
Anthropic afirma que la marca de agua no afecta a la calidad de Claude. Su diseño se basa en SynthID-Text de Google, publicado en Nature en 2024, que dice «preservar la calidad de las respuestas». El autor señala que esa afirmación se probó con personas sobre respuestas individuales. El PDF suplementario de 56 páginas reconoce un equilibrio entre diversidad y detectabilidad: al muestrear varias respuestas al mismo prompt, las marcadas se parecen más entre sí que las no marcadas. Los propios autores admiten que eso podría reducir la calidad global de un sistema que genera muchas respuestas y elige la mejor.
Según el autor, esa menor diversidad afecta también al uso cotidiano: quien pulsa «reintentar» para reescribir una frase vería respuestas más parecidas que sin marca. Cita una prueba del consultor Natzir Turrado, que reprodujo SynthID-Text en un modelo abierto: de cinco respuestas con marca, cuatro empezaban de forma casi idéntica, mientras que sin marca tres abrían de forma distinta. El autor añade, como hipótesis no probada por los autores, que el efecto podría darse también entre prompts distintos, porque la marca solo mira una pequeña ventana de contexto. Señala además que repetir un prompt para medir el consenso y reducir alucinaciones resulta menos fiable, porque las respuestas dependen menos unas de otras.
Sumanth Dathathri, uno de los autores del artículo de SynthID, dijo a Turrado que hay «muchas soluciones fáciles» al problema de diversidad y que, al probar Gemini o Claude muchas veces, se obtienen respuestas muy diversas. Turrado preguntó qué soluciones no reducen la fuerza de la detección y, según el autor, no ha recibido respuesta. Mitigaciones como rotar las claves entre peticiones solo diluyen el efecto y tienen costes propios, como detectar peor en textos cortos. El autor cita otro estudio según el cual lograr una marca de agua sin distorsión es imposible.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.