Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · machinelearning.apple.com

Recuperación más rápida para un RAG mejor y más eficiente

Investigadores de Apple proponen entrenar pequeñas redes neuronales, una sola vez y para una base de claves fija, que enruten cada consulta hacia su mejor coincidencia. Usan la estructura convexa de la búsqueda por producto interno máximo (MIPS), base de recomendadores, buscadores y RAG, y la presentan en ICML 2026.

Foto: vía machinelearning.apple.com

Leer el artículo aquíArtículo original (machinelearning.apple.com) 38 comentarios en Hacker News

Escucha la noticia3 min

La búsqueda por producto interno máximo (MIPS) consiste en encontrar, dado un vector de consulta, la clave que mejor encaja entre millones de candidatas. En RAG, el documento más adecuado se antepone a la pregunta del usuario. Con millones de claves y miles de dimensiones, comparar la consulta con todas resulta muy caro. Los métodos aproximados habituales recurren a clustering y cuantización, y se centran en las propiedades de las claves, sin tener en cuenta cómo son las consultas. En RAG el desajuste es claro: las consultas son preguntas cortas y las claves, textos largos y cuidados.

El artículo, «Amortizing Maximum Inner Product Search with Learned Support Functions», parte de que en producción suele haber una base de usuarios con una distribución de consultas estable y bien conocida. Los autores entrenan redes pequeñas, una vez y sin conexión, para una base de claves fija. Asumen un coste inicial de amortización a cambio de una recuperación más rápida y precisa en inferencia.

En el enfoque clásico, las claves se dividen en k clusters, la consulta se compara con el centroide de cada uno y luego se busca exhaustivamente solo en el cluster elegido, con lo que se reduce el coste en un factor k. Pero ese enrutado puede fallar: un cluster puede contener una clave lejana a su centroide y cercana a la consulta, y entonces se descarta. El trabajo señala que la función que asigna a cada consulta el mayor producto interno con un conjunto de claves es la función soporte de ese conjunto, un objeto de análisis convexo. Es convexa y su gradiente devuelve la mejor clave.

A partir de ahí proponen dos modelos. SupportNet aprende la función soporte con una red convexa de entrada (ICNN) y, con una función por cluster, mejora el enrutado al responder «¿qué tan buena es la mejor clave de este cluster para esta consulta?». KeyNet predice directamente la mejor clave, con una pérdida de consistencia basada en el teorema de Euler para funciones homogéneas. Ambos se entrenan por regresión con consultas muestreadas de la distribución real, cuya mejor coincidencia se calcula una vez por búsqueda exhaustiva.

Probaron SupportNets de cuatro tamaños (XS, S, M y L, del 1 % al 20 % del tamaño de la base de datos) sobre Natural Questions, con unos 2,6 millones de pasajes únicos divididos en 128 clusters. Miden el recall de enrutado, es decir, la fracción de consultas cuya partición correcta queda entre las exploradas.

En Hacker News

«Faster Retrieval for Better, More Efficient RAG» · puesto 25 · 219 puntos · enviado por zerop

Lo que dicen los comentarios

La conversación gira en torno a si la recuperación aprendida compensa frente a alternativas simples. Varios comentaristas con experiencia práctica sostienen que, salvo a escala enorme, un índice BM25 o incluso grep, con un LLM que lanza muchas búsquedas léxicas, rinde igual o mejor que embeddings. Otros replican que grep no busca por significado, ni tolera otros idiomas o erratas, ni escala a terabytes con baja latencia, aunque se admite que el LLM puede expandir un concepto en varias búsquedas literales. También se señala que recuperar sesga al LLM frente a dejarle explorar. Aparte, hay un hilo sobre la estrategia de Apple con la IA local y Siri, con opiniones enfrentadas.

  • Estos métodos aprendidos de Apple, Spotify y otros solo son relevantes a hiperescala, con cientos de millones de elementos. Hasta unos pocos millones, un índice BM25 con el LLM usándolo como herramienta y abriendo mucho la red gana siempre.
    — armcat, leer el comentario
  • No me convence: la mayoría de los modelos de embeddings son demasiado pequeños para responder bien a un LLM. Si lo limitas a búsquedas básicas, vuelves a grep más regex; con uno enorme, mejor usar un subagente.
    — mickeyp, leer el comentario
  • Grep es rapidísimo para muchas cosas, pero en RAG de producción no busca por significado, ni entre idiomas, ni con erratas como la búsqueda vectorial híbrida, y no escala a terabytes distribuidos en menos de 1000 ms.
    — goldenarm, leer el comentario
  • Los métodos de recuperación acaban sesgando al LLM hacia lo que dice un sistema heurístico que entiende peor el dominio. Según mi experiencia, dejar que el LLM explore sin sesgo da mejores resultados.
    — comandillos, leer el comentario
  • Un asistente de IA en el dispositivo y 100 % privado podría ser tan grande que amenazara a los proveedores de modelos de frontera con los que Apple se asocia ahora.
    — elpakal, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.