GPU Unlock удвоява изчислението на RTX 30 и RTX 40

Два open source проекта премахнаха софтуерно ограничение в потребителските видеокарти на Nvidia и в някои изчислителни режими удвоиха производителността им. Модулът за Linux ядро gpu-unlock на разработчика Zagitta се занимава с архитектурата Ampere (серията RTX 30), а gpu-unlock-ada на JustAResearcher — с Ada Lovelace (серията RTX 40). При RTX 4090 FP16 пропускливостта скача от 165,6 на 331,6 TFLOPS, тоест точно два пъти, пише TechPowerUp.

Трикът не изисква нито флашване на VBIOS, нито модифициран драйвер — и точно това го прави интересен.

Какво е било заключено

Ограничението не е ново, просто досега беше трудно достъпно. При геймърските Ampere и Ada чипове скоростта на подаване на инструкции (instruction issue rate) за матрични операции FP16 и BF16 с натрупване във FP32 е наполовина спрямо професионалните им еквиваленти с абсолютно същия силиций. Хардуерът го може — селекторът в регистрите просто е настроен на по-ниска стойност.

Двата модула правят едно и също: зареждат се преди драйвера на Nvidia, записват стойностите в регистрите за избор на скорост, издават FLR (function level reset) на картата и я предават на непроменения официален драйвер. Понеже драйверът остава оригинален, няма нужда да повтаряте процедурата при всяко обновяване — за разлика от по-старите подходи с патчване.

Числата

При Ada проектът публикува измервания от същата карта преди и след отключването:

Карта	Режим	Преди	След
RTX 4090	FP16/FP32	165,6 TFLOPS	331,6 TFLOPS
RTX 4090	BF16/FP32	165,5 TFLOPS	330,6 TFLOPS
RTX 4070 Ti SUPER	FP16/FP32	95,0 TFLOPS	189,9 TFLOPS
RTX 4070 Ti SUPER	TF32	47,5 TFLOPS	94,5 TFLOPS

Официално хранилището gpu-unlock-ada поддържа само RTX 4090 (PCI ID 10de:2684). RTX 4070 Ti SUPER и RTX 4060 Ti 16 GB минават през експериментални флагове и изискват изрично подаден PCI адрес.

Снимка: INNO3D

При Ampere картината е по-разнородна. Проектът на Zagitta покрива чиповете GA102, GA103, GA104 и GA106 — от RTX 3060 12 GB до RTX 3090 Ti. Печалбата в BF16 GEMM е 68–80% при RTX 3090 Ti и 25–67% при RTX 3090, а wccftech съобщава за BF16 от 87,5 на 157 TFLOPS при 3090 Ti и FP16 от 65 на 113 TFLOPS при RTX 3080 10 GB.

Колко от това се вижда в реална работа

Тук е уловката. Синтетичните TFLOPS се удвояват, но приложенията не.

Измерванията с cuBLAS GEMM на Ada дават от 12 до 34% ускорение според формата на матрицата, а при 4096³ разликата е практически нулева. В натоварвания с големи езикови модели печалбата е най-ясна при prefill — обработката на дълъг контекст — около 14 до 36%, с до една четвърт по-ниска латентност до първия токен. Генерирането на токени зависи основно от пропускливостта на паметта, а нея модулът не пипа.

FP32 и INT8 никога не са били ограничавани и не се променят. FP8 на тестваните карти също не дава видима полза. Печалби в игрите няма измерени — по-бързите тензорни ядра теоретично биха помогнали на DLSS, но никой още не го е показал с числа.

Какво ви трябва

Изискванията са сериозни: Linux с налични kernel headers и DKMS, параметър gpu_unlock.targets=all в командния ред на ядрото, а при Ada — изключен Secure Boot и студено стартиране (не рестарт, а пълно изключване), защото отключването иска чисто състояние на хардуера. Модулът за Ada при инсталация сваля и проверява официален firmware от Nvidia версия 610.43.03 локално, вместо да разпространява готови бинарни файлове.

git clone https://github.com/Zagitta/gpu-unlock
cd gpu-unlock && make install

Windows поддръжка няма.

Защо точно сега

Интересът не е случаен. Втората ръка на RTX 3090 поскъпна от около 1000 на над 2000 долара (US цени, грубо 890 до 1790 евро) за година, а обявите за RTX 3090 Ti стигат 2650 долара (около 2370 евро) — ефект от същия глад за памет, който вдигна и цените на SSD-тата с триста процента. Карта с 24 GB VRAM, която изведнъж смята двойно по-бързо в режимите, използвани от локалните модели, е директна алтернатива на новия хардуер — и на машини като Dell XPS 16 Creator с RTX Spark.

Темата за изстискването на заключена производителност от съществуващи карти не е изолирана: тази седмица Tom’s Hardware посвети свой премиум материал именно на изваждането на повече игрова производителност от RTX Spark.

Заключение

Какво остава от всичко това? Доказано е, че ограничението е софтуерно и се маха, без да пипате фърмуера. Удвоените TFLOPS обаче са таван, не обещание — в истинска работа очаквайте по-скоро 15–35% и само в определени задачи. Ако имате резервна Linux машина с RTX 3090 или 4090 и въртите локални модели, си струва да погледнете. Ако имате една карта и тя ви е работна, изчакайте проектите да узреят.