Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · arxiv.org
¿Por qué el lenguaje generado por IA es tan difícil de entender?
Un estudio en arXiv mide rasgos lingüísticos que se sabe que dificultan la comprensión humana y concluye que nueve modelos punteros los usan más que las personas. Sus autores atribuyen el fenómeno a que los modelos se optimizan para matemáticas, código y razonamiento, donde prima la densidad de información.
1 medio · MadridPublicada 24 oct, 21:40Actualizada 25 oct, 00:50· Ya no está en portadaEscrita por IA · cómo funciona
Los autores parten de la sensación extendida de que el texto generado por IA se ha vuelto más difícil de entender. Para comprobarlo estudian rasgos psicolingüísticos asociados a mayor esfuerzo de procesamiento en humanos: oraciones de relativo de objeto, dependencias sintácticas largas y n-gramas poco frecuentes. Lo hacen con un corpus nuevo de texto generado por IA de distintos ámbitos.
Los resultados indican que los modelos emplean estos rasgos difíciles con más frecuencia que las paráfrasis obtenidas por traducción de ida y vuelta. Frente a la escritura humana, los nueve modelos analizados, punteros o casi punteros, usan más sujetos inanimados con verbos animados y más n-gramas poco frecuentes. La mayoría también usa dependencias más largas, más sustantivos apilados y más relativos de objeto reducidos en conversación. Hay además una variación considerable entre familias de modelos.
La hipótesis de los autores es que el lenguaje humano está optimizado para comunicar con éxito, mientras que el texto de la IA se optimiza cada vez más para otros fines, como matemáticas, código y razonamiento, donde hay presión por la densidad de información. Como prueba de concepto, ajustan un modelo de lenguaje con una penalización por longitud, lo que lo aleja del comportamiento lingüístico humano. Señalan que los ejes de desajuste entre las exigencias de procesamiento de humanos y LLMs apuntan a posibles remedios.
«Why is AI generated language so hard to understand?» · puesto 30 · 191 puntos · enviado por canjobear
Lo que dicen los comentarios
Los comentarios proponen explicaciones complementarias a la del estudio. Una señala el RLHF, que premiaría la apariencia de buena escritura (listas, encabezados, frases llamativas) más que su utilidad. Otra apunta a los datos de entrenamiento, llenos de lenguaje comercial y de opinión. Otra es la falta de una mente con intención detrás del texto. Varios enlazan el fenómeno con el aprendizaje por refuerzo con recompensas verificables, que haría aprender un lenguaje comprimido sin que nadie tenga que entenderlo. Un comentarista recuerda que el efecto se ve en el registro por defecto y que los modelos pueden escribir de otro modo si se les pide. Hay discrepancia sobre si la cognición es en buena parte lenguaje, y quien aporta ejemplos concretos cita el uso intransitivo de verbos transitivos o los sustantivos apilados en inglés técnico.
Como redactor técnico, creo que las respuestas por defecto de la IA están optimizadas para lo que la gente cree que es buena escritura, no para la que lo es. Años de RLHF premiaron la primera impresión del evaluador.
Los LLMs usan verbos transitivos de forma intransitiva, como «el formulario submits», algo que casi nunca se ve en escritura humana. Vuelve las frases ambiguas, y más en documentación técnica, donde la precisión no es negociable.
Esto suena a sentido común para quien haya trasteado con modelos y entrenamiento, pero alguien tenía que cuantificarlo. Solo se ve en el registro por defecto de Claude: si se le pide, sigue pudiendo escribir de otra manera.
El aprendizaje por refuerzo hace que los agentes «razonen» hasta llegar a un estado verificable. Aprenden un lenguaje afinado a la tarea, sin comunicarse nunca con nadie, lo que da una versión deformada y comprimida del lenguaje.
Que gran parte de la cognición sea lenguaje es especulativo y muy discutido. Mucha cognición es corporal y usa representaciones visuales, táctiles o auditivas. El lenguaje es cómo comunicamos el pensamiento, no principalmente cómo pensamos.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.