Los autores explican que la demo funciona gracias a tres piezas que están construyendo. xarray-sql representa conjuntos de datos de arrays a escala de petabytes en la nube como tablas (relaciones). ddx es una extensión de base de datos que añade diferenciación automática al estilo de JAX al SQL estándar. einfold es un planificador de consultas modular para contracciones de tensores rápidas en SQL puro. Las tres suponen el mismo modelo de datos de arrays.
El script enlazado, 01_attention.py, define la atención causal como dos sumas sobre joins: los scores, que suman Q por K sobre las características, y la media de V ponderada por exp(score). Q, K y V son tablas (t, d, x), registradas desde datasets de xarray. Tal como la ejecuta un motor SQL, el plan ingenuo almacena los N×N scores, mientras que FlashAttention calcula lo mismo sin guardarlos, procesando bloques de claves frente a bloques de consultas y manteniendo un softmax acumulado.
Según el propio script, einfold encuentra ese plan a partir del SQL, en dos formulaciones distintas (con función de ventana y con GROUP BY), sin ninguna regla escrita para la atención: su regla fusiona cualquier media ponderada por softmax cuyos scores salgan de un join. La misma regla se aplica a un control que no es atención, el estimador de Nadaraya–Watson, una media con kernel gaussiano usada en regridding.
El script comprueba el resultado hacia delante en DataFusion, DataFusion con einfold y DuckDB frente a la atención en JAX. También calcula, con ddx, el gradiente de una función de pérdida respecto a cada valor de Q, K y V en una sola sentencia SQL, y lo contrasta con jax.grad. Otra prueba verifica que una máscara equivale a filas ausentes: un infinito en V solo alcanza a las consultas que pueden verlo.
La tesis de los autores es que separar las capas lógicas de un programa de tensores de las físicas es más correcto y más escalable. Preguntan por qué no formalizar con álgebra relacional la «lección amarga» (Bitter Lesson) del aprendizaje automático, e invitan a unirse a su Discord para trabajar en la intersección entre teoría de bases de datos y sistemas de ML.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.