Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Empresas · frvr.com
Sam Altman cree que desperdiciáis la DRAM
En una entrevista con Cheeky Pint, el CEO de OpenAI sostiene que, con la oferta de DRAM limitada, es «terrible» que los usuarios tengan memoria en sus equipos usada solo el 5 % del tiempo. El artículo, muy crítico, lo enmarca en la crisis de precios de la memoria.
Foto: vía frvr.com
1 medio · MadridPublicada 30 oct, 18:05· Ya no está en portadaEscrita por IA · cómo funciona
Según el artículo de FRVR, los precios de la memoria se han disparado en el último año por la demanda de la IA. Los consumidores no pueden permitirse PC, consolas o móviles, y Micron llegó a anunciar que abandonaba la memoria para el mercado de consumo, alegando que las necesidades de los centros de datos de IA son «esenciales».
En la entrevista con Cheeky Pint, Altman explicó que una de las tensiones de la cadena de suministro es que mucha gente quiere inferencia local. Según él, asumen que el problema está resuelto porque habrá modelos open source que podrán ejecutar en sus ordenadores y no harán falta tantos chips de DRAM en los centros de datos. Desde el punto de vista de la asignación global, dijo, es «bastante terrible» que todo el mundo tenga una parte de la DRAM limitada del mundo en su ordenador y la use el 5 % del tiempo. En un entorno tan restringido, añadió, hay que buscar la máxima utilización en la nube, y la intuición de mucha gente es la contraria.
El texto recuerda que OpenAI puede comprar hasta el 40 % de la producción mundial de DRAM. Altman también contó que OpenAI diseña un procesador propio de IA llamado Jalapeno, concebido por IA para IA. Dijo que, como la capacidad mundial de silicio será limitada, hay un «interés compartido», y que la IA podría crear algo tan importante como el transistor o lograr grandes mejoras de eficiencia.
El autor, Lewis White, plantea que de poco sirve usar IA para crear hardware nuevo si la gente corriente no puede poseerlo, usarlo y mejorarlo. Teme que los precios al alza empujen hacia la computación en la nube en lugar de la local.
«Sam Altman Thinks You're Wasting DRAM» · puesto 30 · 16 puntos · enviado por dutchbrit
Lo que dicen los comentarios
Los comentarios son sobre todo hostiles hacia Altman, con varios insultos y bromas personales. Entre los más serios, uno separa dos ideas que pueden ser ciertas a la vez: la infrautilización del hardware local y el riesgo de concentrar el poder en pocos proveedores. Otro replica que el argumento puede ser técnicamente correcto pero es interesado. Otros comentarios apuntan a que el despilfarro de RAM está en el software ineficiente, recuerdan la tendencia al oligopolio en la industria de EE. UU. o dicen que ya ejecutan sus propios modelos en local. También hay una propuesta técnica para repartir la inferencia entre muchos equipos.
Tengo montones de DRAM y GPUs de consumo en rack, en local, generando el 100 % de mis tokens con total privacidad y soberanía en mi propiedad. Que Sam Altman se vaya a paseo.
Dos afirmaciones pueden ser ciertas, y él formuló una. La inferencia local infrautiliza recursos; pero concentrar el hardware en pocos proveedores concentra poder, con incentivos que pueden chocar con los de los usuarios.
Pocos discutirán si es técnicamente correcto, suponiendo un despliegue óptimo, que no está garantizado. Resulta divertidamente interesado: es como si McDonald's decidiera que solo puedes comer allí.
Altman: invierte un poco de tu fortuna en que los grandes desarrolladores escriban código más eficiente y dejen de malgastar RAM. Empieza por los navegadores y por la app de Windows 11 que gasta un gigabyte en mostrar el tiempo.
Sería interesante un LLM «holográfico»: enviar parte del prompt codificado y recibir tokens que solo tú puedes decodificar. Así se usaría la capacidad distribuida del mundo y se pagaría a cada uno por generar tokens.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.