Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · news.umich.edu
La IA generativa gasta más energía con texto que no está en inglés
Un estudio de la Universidad de Michigan mide que tres modelos abiertos consumen entre 1,4 y 180 veces más energía al generar texto en otros idiomas que en inglés, y con frecuencia responden peor. La causa principal son los tokens: otros idiomas necesitan más para decir lo mismo.
Foto: vía news.umich.edu
1 medio · MadridPublicada 14 nov, 14:40Actualizada 15 nov, 07:30· Ya no está en portadaEscrita por IA · cómo funciona
Investigadores de Michigan Engineering midieron el consumo de tres modelos de código abierto: Qwen 3 de Alibaba, Gemma 3 de Google y Llama 3.1 de Meta. Les plantearon preguntas de opción múltiple de Belebele, un conjunto de datos de comprensión lectora en 122 idiomas, y calcularon la energía por respuesta con el framework ML.Energy. Para otras tareas, como problemas de matemáticas de primaria y preguntas abiertas, tradujeron los enunciados en inglés a otros siete idiomas con No Language Left Behind, de Meta.
Todos los modelos gastaron menos energía con inglés de media, y la diferencia se mantiene con modelos más grandes y con distintos procesadores. La mayoría de las lenguas de Europa occidental quedan en el doble o menos, pero el hindi y el bengalí requieren 7,9 y 15,3 veces más que una consulta equivalente en inglés. La brecha es mayor en idiomas que no usan alfabeto latino y que tienen menos contenido digital. Según los autores, unos 5.200 millones de personas necesitan más del doble de energía para usar la IA en su lengua materna.
La explicación es la tokenización. Con otros idiomas el modelo genera más tokens; en escrituras como la devanagari o la bengalí, cuyos caracteres cambian de forma y se combinan, el problema se agrava. Más tokens ocupan más memoria, el modelo procesa en lotes más pequeños y gasta más energía por token. Además, muchas empresas cobran por token, de modo que el sobrecoste llega al usuario. Los idiomas que más consumen suelen ser también los que tienen menor precisión.
Los autores proponen entrenar modelos optimizados para idiomas concretos y enviarles las consultas, o traducir las consultas al inglés antes de pasarlas a un modelo generalista, si la traducción es fiable. Rada Mihalcea, autora correspondiente, pide más recursos para esos idiomas, por ejemplo con hablantes nativos que ayuden a traducir o a crear datos de entrenamiento. El trabajo se presentó en EMNLP y lo financiaron en parte la NSF y DARPA.
«Generative AI uses more energy on non-English text» · puesto 29 · 224 puntos · enviado por DeepLogin
Lo que dicen los comentarios
Los comentarios se centran en la tokenización: varios señalan que el resultado es casi una consecuencia obvia de que los tokenizadores estén optimizados para inglés y de que la atención crezca de forma cuadrática con el contexto. Se propone pasar a arquitecturas como H-Net, que trabajan con bytes en lugar de un vocabulario fijo, porque con un conjunto de tokens limitado mejorar un idioma empeora otro. También hay críticas al estudio: los modelos tienen ya año y medio, el artículo tarda en decir cuáles usó, y contar hablantes nativos penaliza al inglés y al francés. Un usuario de Neuralwatt reprodujo parte del experimento con modelos más recientes y obtuvo resultados distintos según el modelo: en uno, el chino y el ruso gastan menos que el inglés. Otros hilos preguntan si todo esto indica poca transferencia entre idiomas y si el idioma de entrenamiento cambia la capacidad de razonamiento.
Pasar de conjuntos fijos de tokens a algo como H-Nets puede mejorar el problema, si no resolverlo. Ahora unos idiomas se tokenizan mucho mejor que otros y es un juego de suma cero: añadir tokens para uno obliga a quitárselos a otro.
¿Tarda tanto el ciclo de publicación? Esos modelos eran relevantes hace 18 meses. ¿Hay alguna razón estructural para no repetir las pruebas con modelos actuales antes del envío final?
Reproduje partes del artículo con modelos actuales en Neuralwatt Cloud, donde optimizamos y fijamos precios por energía. En una de las pruebas, el chino y el ruso gastaron menos que el inglés, y en otras lenguas el consumo se disparó.
Usar el número de hablantes nativos como métrica penaliza al inglés y al francés y los hace parecer más eficientes. Hay unas tres veces más hablantes no nativos que nativos, y mucho del material de entrenamiento lo han escrito ellos.
Es cuestión de tokenización: el tokenizador está optimizado para inglés y genera menos tokens. Como la salida se realimenta en la entrada y la atención es cuadrática, un idioma extranjero implica muchos más pasos, cómputo y memoria.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.