Todos los periódicos y la radio, en unoEscrito por IA a partir de Hacker News · Cómo se hace
Hacker News
Hardware · github.com
GPU-unlock: tasa de emisión de instrucciones FP/BF16 en las tarjetas Nvidia de la serie 3000
Un módulo de kernel de Linux desbloquea en las GeForce RTX 3000 (GA102, GA103, GA104 y GA106) la tasa de emisión de instrucciones FP/BF16 de sus equivalentes profesionales, sin parchear el driver de Nvidia. Según el repositorio, duplica el ritmo de las FMA de FP/BF16 hacia FP32 y acelera las cargas con muchas matrices.
Foto: vía github.com
1 medio · MadridPublicada 24 oct, 16:50Actualizada 25 oct, 02:00· Ya no está en portadaEscrita por IA · cómo funciona
El módulo combina la técnica V67/PLM del desbloqueador de las CMP con el momento de actuación previo al driver del enfoque UEFI. Antes de que el driver de NVIDIA, sin modificar, se asocie a la tarjeta, ejecuta el desbloqueo, escribe los selectores de velocidad (SS0 0x88888888, que elige la tasa completa de BF16, y SS1 0x8, IMLA4) y hace un FLR. No es una aplicación UEFI ni un driver parcheado, por lo que no hay que repetir el parche con cada versión nueva del driver de NVIDIA.
En un GEMM denso de 8192³ con una 3090 Ti a 450 W y acumulación en FP32, la mediana de cinco muestras pasa de 87,46 a 118,39 TFLOPS en FP16, de 87,50 a 157,41 TFLOPS en BF16 y de 42,58 a 82,61 TFLOPS en TF32. La tabla de tarjetas probadas, basada en informes de usuarios, recoge ganancias en BF16 de entre el 25 % y el 81 % en las RTX 3090, 3080, 3070 y 3060 12 GB. El 25 % corresponde a tarjetas limitadas a 225 W; la RTX 3080 Ti de 20 GB OEM completa el desbloqueo pero se queda a media tasa de BF16.
Según el repositorio, ganan las cargas intensivas en matrices: el prefill de LLM (+14–36 % en cuatro informes), la difusión y FlashAttention. La decodificación de LLM, limitada por el ancho de banda de memoria, y el trabajo en INT8 se quedan casi igual. Los informes que compararon salidas las hallaron idénticas bit a bit antes y después.
La instalación se hace con make install, que detecta la distribución (Arch, Debian/Ubuntu o Fedora/RHEL), y añadiendo gpu_unlock.targets=all a la línea de comandos del kernel. El módulo se carga en el initramfs antes que nvidia, admite varias tarjetas, la que da imagen y las pasadas a una VM con vfio-pci, y repite el desbloqueo tras suspender a RAM. La hibernación no está cubierta.
«GPU-unlock: FP/BF16 instruction issue rate on Nvidia 3000's cards» · puesto 28 · 318 puntos · enviado por fragebogen
Lo que dicen los comentarios
Los comentarios confirman que el desbloqueo funciona, con matices sobre cuánto se gana en la práctica. Zagitta, el autor, explica que no son ideas suyas: empaqueta las vulnerabilidades en algo menos molesto que parchear el driver, y aclara que los firmwares están cifrados, pero Nvidia publicó imágenes de depuración cifradas que se podían descifrar con una clave de prueba pública y que sirvieron para construir los exploits (un desbordamiento de buffer por DMA que se explota con ROP). Varios usuarios advierten de que la ganancia real es menor que la de los benchmarks de GEMM: se nota sobre todo en el prefill, no en la decodificación, y depende del límite de potencia. Se mencionan también variantes para Turing y Ada, y un parche aparte para acelerar la comunicación entre tarjetas. En cuanto a la serie 50, el autor no es optimista por las capas de seguridad adicionales de Hopper y Blackwell.
Muy bien hecho, ojalá todos los mods siguieran tu enfoque. Los drivers parcheados son una molestia, sobre todo si tienes más de un tipo de tarjeta. Gracias. Y ahora, la 4090.
Es real, pero con salvedades: hay que usar la tarjeta más caliente, el beneficio mayor en algunas exige subir el límite a 450 W y convendría más refrigeración. Se puede combinar con el mod p2p, porque no interfieren.
Las ganancias reales son mucho menores que las anunciadas. Con un tope de 200 W, las pruebas de TFLOPS muestran un 25 %, y como el prefill es lo que mejora y no la decodificación, la ganancia real queda en un 7-8 %.
A mí me funcionó: entreno nanochat un 6 % más rápido con mi 3060. Hubo que dar pasos extra por usar el kernel 5.15, y Claude Code ayudó. Estoy limitado a 170 W y no quiero quemar la tarjeta.
Esta noticia la ha redactado una inteligencia artificial a partir de las fuentes citadas, con el criterio editorial de El Autómata (equilibrio, atribución y solo hechos publicados). Puede contener errores: consulta las fuentes originales. Modelo: claude-sonnet-5.5.