Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · ianbarber.blog

Haz que este forward pass sea lo más rápido posible

Ian Barber repasa si los compiladores de ML siguen haciendo falta ahora que los agentes pueden optimizar kernels directamente. Compara las apuestas de TVM, Together, OpenAI y Meta. Su conclusión es que los compiladores no desaparecen, sino que se descomponen para servir a la búsqueda y la verificación.

Foto: vía ianbarber.blog

Leer el artículo aquíArtículo original (ianbarber.blog) 3 comentarios en Hacker News

Escucha la noticia3 min

El artículo parte de una pregunta: si empresas como Flapping Airplanes, que acaba de recaudar mil millones de dólares, o Hyperstition generan kernels de alto rendimiento con agentes, ¿hace falta todavía un compilador de ML? El equipo de TVM responde que sí, pero por otra razón: un compilador mínimo y estable ofrece abstracciones compartidas y herramientas reutilizables, y deja a los agentes explorar sus propias estrategias. Para ellos la optimización de kernels es un proceso de búsqueda e iteración en el que los tokens y las llamadas a herramientas cuestan dinero y tiempo, así que hay que verificar las soluciones con facilidad. Por eso han construido comprobadores de acceso a memoria y sincronización, y han formalizado su IR en Lean.

Together, con su Together Compiler (TKCC), llega a una conclusión distinta sobre las representaciones intermedias. Observó que los agentes dedican alrededor del 20 % del tiempo a leer archivos del motor para entender los caminos de código, pero que dar acceso sin restricciones al código fuente eleva el techo de rendimiento: ni siquiera su IR de Inductor ampliado era lo bastante expresivo para ciertas optimizaciones. Aun así, también se centra en la verificación y en reducir el espacio de búsqueda, con un marco de medición empírica por niveles y un modelo de costes que descarta configuraciones de paralelismo de forma analítica antes de medirlas.

Barber menciona además la charla de Neil Dhar, de OpenAI, en la conferencia de Triton: usaron Codex para hacer cambios masivos de código y eliminar heurísticas y semánticas implícitas del compilador. Un ejemplo fue quitar la fusión automática de multiplicación y suma en FMA, que podía alterar la numérica del kernel al omitir el redondeo intermedio. Insertaron las llamadas FMA a mano en los kernels afectados, lo que suaviza el espacio de búsqueda. TIRx de TVM, Gluon de OpenAI y TLX de Meta son apuestas en la misma dirección, con puntos de extensión de bajo nivel.

El autor aclara que trabajó en el equipo de Triton en Meta, donde sigue empleado, y prefiere no declarar un ganador, porque este terreno evoluciona junto con los propios agentes. Como ejemplo cita las notas de Together sobre lo que no funcionó: un centro de conocimiento redujo la aceleración entre un 25 % y un 31 %; las estrategias escritas por expertos perdieron frente a pedir simplemente «make this forward pass as fast as possible»; y las herramientas diseñadas por humanos para investigación y registro frenaron el rendimiento, con hasta un 43 % de las llamadas a herramientas gastadas en entender el sistema.

En Hacker News

«Make this forward pass as fast as possible» · puesto 30 · 25 puntos · enviado por matt_d

Lo que dicen los comentarios

El post tiene seis puntos y todavía ningún comentario, así que la conversación no ha empezado.

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.