gpu-unlock: как снять программный лимит FP16 и BF16 на RTX 20/30/40
Видеокарты GeForce RTX способны выполнять тензорные вычисления быстрее, чем это происходит в штатном режиме. Ограничение, по данным проекта gpu-unlock, задаётся программно на уровне прошивки и не связано с физической неисправностью самого ускорителя. Разработчик с ником Zagitta предлагает снимать этот потолок средствами Linux — без перепрошивки VBIOS и без использования патченой версии драйвера.
Проект рассчитан на ряд потребительских видеокарт NVIDIA поколений RTX 20, RTX 30 и RTX 40. Его задача — изменить поведение графического ускорителя через модуль ядра, чтобы разрешить более высокую производительность тензорных ядер в вычислениях FP16 и BF16. В описании также упоминается режим TF32 с накоплением в FP32.
Почему ограничение важно для ИИ-задач
NVIDIA разделяет игровые GeForce и профессиональные либо дата-центровые ускорители не только ассортиментом и ценой. Одно из различий касается пропускной способности тензорных ядер. При близкой аппаратной базе потребительские карты могут искусственно ограничиваться, чаще всего примерно до половины паспортной пиковой скорости соответствующих вычислений.
Для игр такая разница обычно незаметна: тензорные операции в игровом графическом конвейере не являются основной нагрузкой. Иная ситуация складывается при локальном запуске больших языковых моделей, их дообучении, генерации изображений и видео. В этих сценариях значительная часть времени уходит на матричные вычисления, особенно во время обучения и на этапе prefill — обработки входного запроса языковой моделью.
Что меняет gpu-unlock
Вместо модификации VBIOS или создания отдельной версии драйвера проект использует модуль ядра Linux. Такой подход должен снять программный лимит непосредственно во время работы системы, сохранив штатную прошивку видеокарты и официальный драйвер. Это делает решение потенциально менее инвазивным, хотя его применение всё равно требует понимания особенностей Linux, драйверов NVIDIA и рисков низкоуровневого вмешательства.
Важно учитывать статус приведённых результатов. Модуль не проходил независимое тестирование автором исходного разбора: выводы основаны на репозитории gpu-unlock, его README и сообщениях разработчика и сообщества. Поэтому заявленное ускорение нельзя считать гарантированным для каждой модели RTX или любого сценария использования. Реальный эффект будет зависеть от конкретной видеокарты, версии драйвера, режима вычислений и программного стека.
Таким образом, gpu-unlock представляет собой экспериментальный способ раскрыть потенциальную производительность тензорных ядер GeForce RTX без аппаратной перепрошивки. Наибольший интерес проект может представлять владельцам карт, которые используют ускоритель не только для игр, но и для локальных ИИ-моделей, файнтюнинга и генеративных задач. Перед применением стоит отдельно проверить совместимость своей конфигурации и сравнить результаты до и после изменения на собственных нагрузках.
