Llama-modchip: DeepSeek de 284B en 64 GB de RAM, sin GPU
llama-modchip es un fork de llama.cpp que, según su autor, ejecuta DeepSeek-V4-Flash (284.000 millones de parámetros) en una CPU con 64 GB de RAM y contexto de 256K, sin GPU. Lo logra con una cuantización agresiva y kernels propios. En los comentarios, la duda principal es la pérdida de calidad.







