Zagita ускоряет RTX 30 в ИИ, но видеокарты резко дорожают
Открытый Linux-модуль Zagita позволяет повысить вычислительную производительность ряда видеокарт NVIDIA поколения Ampere в задачах ИИ без перепрошивки и аппаратных модификаций. На фоне интереса к локальным LLM цены подержанных RTX 3090, RTX 3090 Ti и RTX 3080 заметно выросли.
Владельцы NVIDIA GeForce RTX 30 получили новый способ повысить производительность видеокарт в вычислениях для ИИ. Открытый проект Zagita разблокирует полную скорость обработки инструкций BF16 и FP16 на графических процессорах Ampere — в том числе моделях на чипах GA102, GA103, GA104 и GA106. Разработчики заявляют, что модуль способен удвоить скорость выдачи инструкций FP/BF16 FMA для операций FP32.
Утилита предназначена прежде всего для Linux и пока не поддерживает Windows. Её ключевое отличие — отсутствие необходимости прошивать vBIOS, модифицировать саму видеокарту или использовать пропатченный драйвер NVIDIA. Zagita запускается как модуль ядра Linux до того, как стандартный драйвер NVIDIA подключится к GPU. Такой подход также избавляет от ручной правки после выхода каждой новой версии драйвера.
Что меняется в вычислениях
В эпоху криптомайнинга NVIDIA ограничивала часть возможностей GeForce RTX 30 через прошивки и патчи, параллельно продвигая специализированные ускорители CMP. Энтузиасты ранее научились снимать ограничения майнинговой производительности, однако вычислительные лимиты оставались. Zagita объединяет техники, применявшиеся для разблокировки CMP, с ранней настройкой карты до загрузки драйвера.
Первые результаты, опубликованные пользователями, выглядят заметно. На RTX 3090 Ti производительность BF16, по приведённым данным, выросла с 87,5 TFLOPS до 157 TFLOPS, а TF32 — с 42,6 до 82,6 TFLOPS. У RTX 3080 10 GB показатель FP16 увеличился с 65 до 113 TFLOPS при штатном энергопотреблении 320 Вт. В отдельных тестах RTX 30 прирост достигал 80%, однако такие результаты зависят от типа нагрузки и настроек.
Для больших языковых моделей эффект оказался менее однородным. В LLM разблокированная RTX 30 обеспечивала ускорение этапа Prefill при длинном контексте на 33–36%, а задержка TTFT — времени до появления первого токена — уменьшалась на 25%. При этом скорость Decode не менялась, как и производительность матричных умножений. То есть выгода будет зависеть от конкретной модели и сценария работы, а не гарантированно ускорит каждую задачу с ИИ.
Поддержка старых GPU и рост спроса
Наибольшую пользу от Zagita получают карты серии RTX 30, но разблокировка, по имеющимся сообщениям, распространяется и на более старые GTX 9, GTX 10 и RTX 20. Упоминается также прирост на RTX 40, хотя конкретные показатели для поколения Ada Lovelace не приводятся. Все эти сведения стоит рассматривать как результаты сообщества: они не являются официальными характеристиками NVIDIA.
Одновременно растёт интерес к RTX 3090 с 24 GB памяти для дообучения и запуска моделей локально. Один из пользователей, как сообщается, получил пропускную способность 381 токен в секунду на Qwen3.8-27B. Исходный результат составлял 82 TPS, а рост до 4,6 раза был достигнут не только благодаря карте, но и за счёт оптимизаций MTP, DFlash2 с поиском по контексту и оптимизированной проверки поиска.
Подержанные RTX 30 становятся менее выгодными для игр
Новый интерес к Ampere уже отражается на вторичном рынке. NVIDIA GeForce RTX 3090 24 GB ранее продавалась примерно за $1000 US, но после публикаций об ИИ-оптимизациях её стоимость превысила $2000 US. RTX 3090 Ti приближается к отметке $3000 US, а RTX 3080 с 10–12 GB памяти на eBay оценивают в $900–$1100 US.
Zagita даёт видеокартам Ampere вторую жизнь в качестве доступных ускорителей для инференса и дообучения моделей, особенно там, где важны объём памяти RTX 3090 и локальная работа с LLM. Но для тех, кто ищет RTX 30 исключительно для игр, тренд неприятный: возросший спрос со стороны ИИ-энтузиастов делает прежде доступные подержанные GPU существенно дороже.
