Lunes, 16 de noviembre de 2026
Portada de las 21:50
Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Inteligencia artificial · github.com

Huawei publica MACaQ, su cuantizador interno para inferencia local

El laboratorio CSL de Huawei libera con licencia Apache 2.0 MACaQ, una herramienta de cuantización agnóstica al modelo que genera GGUF para llama.cpp y checkpoints para vLLM, Diffusers y PyTorch. Cubre texto, imagen, vídeo y audio, y promete cuantizar rápido y con menos memoria.

Foto: vía github.com

Leer el artículo aquíArtículo original (github.com) 29 comentarios en Hacker News

Escucha la noticia2 min

MACaQ es una herramienta de cuantización de pesos y activaciones que funciona con cualquier modelo y no se limita al texto. Permite cuantizar y ejecutar modelos de texto, imagen, vídeo y audio con llama.cpp, vLLM, Diffusers y PyTorch. Según el repositorio, puede cuantizar un modelo de 122.000 millones de parámetros en 64 minutos con 32,5 GB de memoria de dispositivo, y obtiene menor perplejidad que MR-GPTQ y DuQuant++, o iguala su mejor perplejidad en Llama-3-8B con 11 veces menos tiempo de cuantización.

Cada backend tiene su uso: llama.cpp genera GGUF de 2, 3 y 4 bits para texto y también funciona en CPU; vLLM sirve texto en W4A4 o solo con pesos cuantizados; Diffusers cubre imagen, vídeo y audio en W4A4 con modelos como FLUX.2-klein-4B, Wan2.2-TI2V-5B y stable-audio-1.0; y PyTorch se ocupa de la generación de voz (Qwen3-TTS, Chatterbox Turbo). El repositorio incluye recetas para varios modelos de Qwen y para OLMoE.

Junto a MACaQ se publica MACaQ-R, que refina los códigos de pesos de un GGUF ya cuantizado conservando sus formatos nativos y sus escalas de bloque, de modo que el resultado funciona con un llama.cpp estándar. En Qwen3.6-35B-A3B, con el mismo tamaño de archivo (22,36 GB), la divergencia KL respecto a FP16 baja de 0,015731 en el Unsloth UD-Q4_K_XL a 0,013367 en el MACaQ-R Q4_K_XL.

En vLLM, con Qwen3.8-27B, MACaQ W4A4 da una perplejidad de 2,8994 frente a 2,8463 de BF16, con un prefill 2,33 veces más rápido y una decodificación 2,58 veces más rápida. Para Ascend, los kernels de matmul W4A4 están en dos pull requests de CANN (ops-nn #12568 y ops-tilelang #44); la ejecución de modelos completos requiere integrarlos en un runtime de inferencia de Ascend. El repositorio remite a un artículo en arXiv y pide una estrella en GitHub a quien lo use.

En Hacker News

«Huawei releases MACaQ, its internal quantizer for local inference» · puesto 29 · 121 puntos · enviado por thefox96

Lo que dicen los comentarios

Con solo 26 comentarios, la conversación es breve y dispersa. Un usuario observa que los tres repositorios más populares de Huawei en GitHub tratan de cuantización y se pregunta por qué hacen falta tres pipelines distintos; nadie lo aclara. Otro enlaza la entrada del blog oficial y cuestiona que se prefiera GitHub a la web del proyecto, alegando las sanciones a Huawei; le responden que en GitHub se ve el código y se sabe dónde pulsar, y que muchos de esos repos llevan tiempo allí. También se comenta que ya hay quien reproduce el trabajo y publica GGUF, que existe una cuantización de Qwen 3.8 27B, y que el nombre del proyecto alude probablemente a los macacos.

  • Los tres repos con más estrellas de la página de Huawei en GitHub son de cuantización. No soy científico de LLM y no sé qué diferencia hay entre ellos, ni por qué necesitan tres pipelines distintos.
    — Schlagbohrer, leer el comentario
  • ¿Por qué algunos usuarios de HN prefieren la página de GitHub a la web oficial? Huawei sigue sancionada y cualquier cosa que alojen en terceros fuera de China puede desaparecer en cualquier momento.
    — Rabbit504030201, leer el comentario
  • Prefiero GitHub porque puedo ver el código y sé enseguida dónde pulsar. Las páginas de producto están llenas de imágenes y vídeos de marketing, y cuesta más leerlas.
    — nout, leer el comentario
  • Muchos de sus repos llevan ya tiempo ahí. Tampoco sé por qué iban a sancionar cosas gratuitas suyas.
    — lukasc-ch, leer el comentario
  • Hay gente que ya lo está reproduciendo y creando GGUF, con un enlace a un hilo de r/LocalLLaMA.
    — lukasc-ch, leer el comentario

Pregunta sobre esta noticia

Respuestas automáticas a partir de las noticias de El Autómata, sus fuentes y la radio. Pueden contener errores: comprueba los enlaces.

Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.