Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Hardware · eetimes.com
DeepX afirma que su chip DX-M2 hace inferencia de hasta 100.000 millones de parámetros con menos de 5 W
La startup surcoreana de IA en el borde DeepX ha cerrado el diseño (tape-out) del DX-M2, su segundo acelerador, con acceso a la tecnología de procesamiento en memoria de Samsung. Promete modelos de 20.000 a 100.000 millones de parámetros a 10-30 tokens por segundo con 5 W, aunque parte de las cifras son simulaciones.
Foto: vía eetimes.com
1 medio · MadridPublicada 9 nov, 20:15· Ya no está en portadaEscrita por IA · cómo funciona
El DX-M2 está pensado para llevar IA generativa a robots, drones y otros dispositivos con poco margen de consumo y temperatura. Según DeepX, ejecuta modelos de 20.000 a 100.000 millones de parámetros (con unos 3.000 a 20.000 millones activos, en modelos mixture-of-experts) a 10-30 tokens por segundo, con el mismo presupuesto de 5 W que el DX-M1, la primera generación, ya en producción en masa y orientada a visión. El ancho de banda de memoria pasa de 50 a 150 GB/s, la eficiencia de la NPU se duplica por diseño y se vuelve a duplicar con el paso a 2 nm. Alcanza 80 TOPS y admite speculative decoding y TurboQuant.
La apuesta añadida es la integración con LPDDR5x-PIM de Samsung, una memoria que calcula dentro del propio chip las operaciones limitadas por memoria, como GEMV. Las simulaciones de DeepX apuntan a 6,7 veces más tokens por segundo en Llama3.1-8B que el DX-M2 solo, a costa de 2,7 veces más consumo total. La empresa cree que podría lograr el doble de rendimiento sin salirse de la envolvente de potencia sin PIM. El compilador que lo soporta es todavía un prototipo basado en simulación, a la espera de los módulos de hardware para probarlo en físico. El DX-M3, previsto para 2028, usará LPDDR6-PIM, será chiplet y apuntará a 1 ePOPS (INT8).
En el apartado comercial, DeepX dice tener más de 100 pedidos del DX-M1 y que Hyundai Motor Group Robotics Lab ya lo usa. Trabaja con Intel para integrar OpenVINO en su SDK y ha hablado con AMD sobre una plataforma de robótica. Para robots, ofrece DX-Newton, una capa de librerías con la que, según la empresa, se migra desde Nvidia Isaac cambiando el nombre de la API, con una autonomía hasta 20 veces mayor. Las muestras del M2 se esperan para marzo de 2027.
«DeepX claims inference up to 100B parameters at less than 5 W» · puesto 26 · 136 puntos · enviado por giuliomagnifico
Lo que dicen los comentarios
Con solo dos comentarios, la conversación es breve y escéptica. El más votado repasa los matices del artículo: las cifras de rendimiento y el compilador son simulados, el modo PIM exige 2,7 veces más potencia y los 5 W parecerían corresponder a modelos de menos de 4.000 millones de parámetros, no a los de 100.000 millones. Otro comentario duda de que las prestaciones mostradas sirvan para uso en el borde por parecer algo lentas.
Las cifras de rendimiento son simuladas y exigen 2,7 veces la potencia total, unos 13,5 W. Además, el compilador es un prototipo simulado, así que no sustituye sin más a Nvidia Isaac, y los 5 W parecen referirse a modelos de menos de 4.000 millones.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.