Radeon AI PRO R9700 AI TOP 32GB: обзор и тесты видеокарты для нейросетей от AMD в исполнении GIGABYTE

32 гигабайта GDDR6 – основной аргумент R9700 в конкурентной борьбе. Именно объём памяти позволяет ей называться “ИИ-ускорителем”. Объём памяти напрямую определяет, что можно запускать локально. Больше VRAM – значит больше параметров модели помещается целиком на карте, без свопа в RAM. 

Объём видеопамяти определяет три параметра сразу: какие модели доступны, насколько длинный контекст можно обслуживать и какой размер пакетов тянет карта в многопользовательском инференсе. К примеру, на 16 ГБ модель вроде Llama* 3.1 32B в Q4_K_M уже не влезает без компромиссов, на 32 ГБ – влезают. Больший объём VRAM напрямую влияет на ассортимент доступных LLM.

В остальном AI PRO R9700 – идентична RX 9070 XT. Карта сочетает 32 ГБ GDDR6 с 256‑битной шиной и пропускной способностью памяти 640 ГБ/с, 64 вычислительных блока (CU) и 4096 потоковых процессоров. Дополнительно задействованы 128 специализированных AI‑ускорителей второго поколения и 64 блока трассировки лучей, что позволяет эффективно работать с форматами FP32, FP16 и INT8 в матричных операциях. Отдельно стоит отметить поддержку FP8 и INT4 – именно наличие этих форматов позволяет демонстрировать высокую производительность при работе с современными LLM.

Однако давайте оставим теоретическую производительность в покое и рассмотрим новинку поближе. Начнём – с её компоновки.

Radeon AI PRO R9700 построена в компактном двухслотовом форм-факторе. Карта создана специально для конфигураций с несколькими GPU в ограниченном пространстве. Турбинное охлаждение позволяет устанавливать карты плотно друг к другу без перегрева, что критично для рабочих станций с 2–4 GPU для обучения крупных локальных моделей.

Видеоадаптер обладает единственным разъёмом питания 12V-2x6 вместо традиционных 6 и 8-pin. Энергопотребление составляет 300W. Рекомендованный блок питания: от 750 Ватт.

Что любопытно: GIGABYTE AI TOP AI PRO R9700 оснащена 3-мя портами DisplayPort 2.1a, и лишь одним HDMI 2.1b. Референсный же дизайн вообще не подразумевает наличие HDMI, все четыре порта – DisplayPort 2.1a. 

На этом из выдающегося – всё. В остальном печатная плата полностью совпадает с обычной RX 9070 XT. Теперь давайте взглянем: готовы ли ИИ-движки к появлению такого принципиально нового типа ускорителя?

llama.cpp работает с R9700 через HIP-бэкенд (ROCm) и через Vulkan. Разница в производительности колоссальная: ROCm во множество раз производительнее Vulkan. Посему ROCm здесь приоритет, а Vulkan – запасной вариант. 

vLLM получил официальную поддержку RDNA3/RDNA4 в версии 0.15.0, вышедшей 29 января 2026 года. До этого поддержка исходила только через патчи от комьюнити. Нативная поддержка FP8 для RDNA4 в основную ветку пока не интегрирована и остаётся в стадии отдельного патча.

SGLang – обособленная история. В документации отсутствуют даже упоминания RDNA. Поддерживаются только карты AMD Instinct серии MI300X. Тратить время на SGLang с R9700 на данный момент не стоит.

Почему это так? Потому что AMD традиционно уделяет приоритет Instinct-серии (CDNA-архитектуре) в своём ROCm-стеке. RDNA4 – это новинка, под которую только-только начала выравниваться экосистема. Документация, официальные примеры, ответы комьюнити – всё это скорее заточено под Instinct, нежели под профессиональные Radeon. Но это больше скоротечный недостаток R9700, чем фундаментальный изъян. Пройдёт немного времени: и сама AMD, и комьюнити подтянут оптимизацию экосистемы под новую линейку.

Как было указано выше, единственным полноценным движком, поддерживающим PRO R9700 в полной мере – является llama.cpp. Именно на него мы и будем делать упор при тестировании. 

А в качестве системы будет использоваться самый распространённый дистрибутив Linux – Ubuntu 24.04.4 LTS. В отличии от “инстинктов” AI PRO R9700 умеет работать как на Linux, так и на Windows. Однако именно Linux является основной средой обитания R9700. Поскольку там функционирует полноценный стек: ROCm поддерживается официально, HIP-бэкенд работает, ECC-память активна. Использование Windows – нестандартный сценарий, который заслуживает собственной, отдельной статьи. А на нашем ютуб канале мы протестировали AI PRO R9700 в ComfyUI, Kandinsky и Wan2.2.

Установка и настройка ROCm на R9700 аналогична установке на любой Instinct, в нашем случае будет использоваться версия 7.1.1.

Покончив с настройкой, давайте оценим производительность AI PRO R9700 в популярных LLM.

Подборка состоит из нескольких сегментов: популярные, крупные модели, модели для кодинга и недавно появившиеся на свет LLM. Набор тестируемых моделей во многом совпадает со списком из обзоров AMD Instinct MI100 и NVIDIA Tesla V100.

По завершению тестирования можно приметить одну деталь: помимо значительно более долгой загрузки модели в память, на крупных моделях AI PRO R9700 сильно теряет в производительности – сказывается присутствие GDDR6 памяти а не многослойной HBM, как на многих серверных ускорителях.

Это рисует интересную картину: на некрупных моделях R9700 идёт вровень с той же AMD Instinct MI100, или вовсе опережает её. Но на моделях вес которых превышает отметку 8-10 гигабайт, “прошка” начинает существенно отставать, вплоть до 30% на некоторых моделях.

Но несмотря на это, есть аспект, в котором AI PRO R9700 AI TOP существенно превосходит своего серверного собрата.

AI PRO R9700 получилась достаточно холодной видеокартой, особенно в сопоставлении с серверными чудовищами. Её средние температуры не переступают отметку 70 градусов по Цельсию. А хотспот лишь изредка превышает это значение. Нагрев памяти тоже останавливается вблизи 70 °C – на 71-73 градусах. По крайней мере в реальной нагрузке.

Бенчмарк немного корректирует показатели, но не разительно: средняя температура едва превышает 70 °C. Разогревается только память – до ~85 градусов. И хотспот, он прыгает выше прочих: до 90-95 °C.

Итак, в полной мере ознакомившись со всеми положительными и отрицательными гранями нового ускорителя от AMD, можно сформировать итог.

AMD AI PRO R9700 AI TOP – видеокарта, явно преуспевшая в своей нише. Если вам необходим “ИИ-ускоритель” за относительно некрупные деньги (по меркам конкурентов). И при этом вы не готовы мириться с ограниченностью линейки Instinct, желая сохранить весь функционал и поддержку Windows в одной видеокарте. Она – практически безальтернативный выбор в текущей конъюнктуре рынка.

*LLAMA — проект Meta Platforms Inc.**, деятельность которой в России признана экстремистской и запрещена

**Деятельность Meta Platforms Inc. в России признана экстремистской и запрещена