Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Show HN

Show HN: Deducción automática de un kernel FlashAttention a partir de unas 25 líneas de SQL

Un equipo presenta una demo en la que un optimizador de consultas deduce un kernel de FlashAttention a partir de unas 25 líneas de SQL que expresan la atención convencional. Se apoya en tres extensiones SQL portables: xarray-sql, ddx y einfold. Proponen el álgebra relacional como nueva forma de programar aceleradores.

Leer el artículo aquíArtículo original (github.com) 1 comentarios en Hacker News

Escucha la noticia3 min

Los autores explican que la demo funciona gracias a tres piezas que están construyendo. xarray-sql representa conjuntos de datos de arrays a escala de petabytes en la nube como tablas (relaciones). ddx es una extensión de base de datos que añade diferenciación automática al estilo de JAX al SQL estándar. einfold es un planificador de consultas modular para contracciones de tensores rápidas en SQL puro. Las tres suponen el mismo modelo de datos de arrays.

El script enlazado, 01_attention.py, define la atención causal como dos sumas sobre joins: los scores, que suman Q por K sobre las características, y la media de V ponderada por exp(score). Q, K y V son tablas (t, d, x), registradas desde datasets de xarray. Tal como la ejecuta un motor SQL, el plan ingenuo almacena los N×N scores, mientras que FlashAttention calcula lo mismo sin guardarlos, procesando bloques de claves frente a bloques de consultas y manteniendo un softmax acumulado.

Según el propio script, einfold encuentra ese plan a partir del SQL, en dos formulaciones distintas (con función de ventana y con GROUP BY), sin ninguna regla escrita para la atención: su regla fusiona cualquier media ponderada por softmax cuyos scores salgan de un join. La misma regla se aplica a un control que no es atención, el estimador de Nadaraya–Watson, una media con kernel gaussiano usada en regridding.

El script comprueba el resultado hacia delante en DataFusion, DataFusion con einfold y DuckDB frente a la atención en JAX. También calcula, con ddx, el gradiente de una función de pérdida respecto a cada valor de Q, K y V en una sola sentencia SQL, y lo contrasta con jax.grad. Otra prueba verifica que una máscara equivale a filas ausentes: un infinito en V solo alcanza a las consultas que pueden verlo.

La tesis de los autores es que separar las capas lógicas de un programa de tensores de las físicas es más correcto y más escalable. Preguntan por qué no formalizar con álgebra relacional la «lección amarga» (Bitter Lesson) del aprendizaje automático, e invitan a unirse a su Discord para trabajar en la intersección entre teoría de bases de datos y sistemas de ML.

En Hacker News

«Show HN: Automatic deduction of FlashAttention kernel from ~25 lines of SQL» · puesto 30 · 20 puntos · enviado por alxmrs

Lo que dicen los comentarios

El post aún no tiene comentarios, así que no hay conversación que resumir.

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.