Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Hardware · qualcomm.com
Qualcomm Cloud AI 100 Ultra: acelerador de IA de 150 W con 128 GB a 548 GB/s
Qualcomm presenta en su web de centros de datos la Cloud AI 100 Ultra, una tarjeta aceleradora de IA de 150 W con 128 GB de memoria y 548 GB/s de ancho de banda. En Hacker News se discute si sus cifras han quedado atrás y para qué tareas de inferencia encaja.
Foto: vía qualcomm.com
1 medio · MadridPublicada 4 nov, 21:50Actualizada 5 nov, 00:35· Ya no está en portadaEscrita por IA · cómo funciona
El título del post resume las características de la tarjeta: un acelerador de IA para centros de datos con un consumo de 150 W, 128 GB de memoria y un ancho de banda de 548 GB/s. La página enlazada es la ficha de producto de Qualcomm.
Según los comentarios, el chip se lanzó en 2024 y está disponible en proveedores de nube como Cirrascale. También señalan que, además de los 128 GB de RAM convencional, la tarjeta incluye unos 512 MB de SRAM en el propio acelerador, y que ofrece unos 800 TOPS. El precio no figura en lo que se comenta.
«Qualcomm Cloud AI 100 Ultra – 150W AI Accelerator Card with 128GB at 548GB/s» · puesto 30 · 164 puntos · enviado por peter_d_sherman
Lo que dicen los comentarios
La conversación gira en torno a si las especificaciones están ya anticuadas. Algunos echan en falta cifras más ambiciosas, como 1 TB de memoria y 5 TB/s, mientras otros responden que para muchos usos, sobre todo la inferencia local de LLM, la tarjeta es razonable, y que cabrían varias en una estación de trabajo. Se compara con los chips de Apple: mucha memoria pero con un ancho de banda más modesto y una capacidad de cómputo mucho mayor. Un comentario apunta que, al usar las pilas de inferencia modernas distintas GPU para prefill y para decode, esta tarjeta sería adecuada para el prefill. Otros piden el precio y dudan de cómo rendirá el ancho de banda con cargas sostenidas. Una derivada habla de la mejora de Qualcomm en CPU y en su colaboración con el software libre.
Si las especificaciones parecen anticuadas es porque este chip salió en 2024. Está disponible en proveedores de nube como Cirrascale.
Para la mayoría de los usos parece razonable. Es una tarjeta de altura simple, así que cuatro en una workstation darían 512 GB de RAM y 2 TB/s de ancho de banda total, atractivo para muchos LLM actuales.
Tengo curiosidad por ver cómo se sostiene realmente el ancho de banda de memoria bajo cargas de inferencia continuas, frente a las cifras de la hoja de especificaciones.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.