Первые тесты Nvidia Vera CPU — так ли все хорошо?

Совсем недавно компания Nvidia начала отправку первых ИИ-стоек с новейшими центральными Arm-процессорами Vera таким компаниям, как OpenAI, SpaceX, Anthropic и Oracle для проведения первых предварительных тестирований, однако эти организации не спешат делиться результатами своих внутренних бенчмарков, да и вряд ли Альтман или Амодей стали бы критиковать оборудование своего ключевого поставщика железа. Но первые и, что самое главное, независимые (почти) результаты тестов все-таки поступили на всеобщее обозрение. Nvidia пригласила создателя портала Phoronix Майкла Ларабеля посетить их головной офис в Санта-Кларе и вживую увидеть, как Vera CPU показывает себя в рабочих нагрузках.

Прежде чем переходить к цифрам, стоит напомнить, что из себя представляет Nvidia Vera CPU.

Под капотом у чипа — 88 кастомных Arm-ядер Olympus (на базе Armv9.2) со 176 потоками. Nvidia не раскрывает частоту ядер чипа, однако расчетная частота архитектуры Armv9.2 достигает 3,2 ГГц, поэтому можно предполагать, что ядра Olympus будут иметь аналогичные показатели. Кроме того, процессор поддерживает до 1,5 ТБ памяти LPDDR5X-9600 МТ/с с пропускной способностью до 1,2 ТБ/с, которая интегрируется на одной подложке с чипом в виде передовых модулей SOCAMM2. По сравнению с предыдущим процессором Nvidia Grace, чип Vera имеет вдвое больший объем кэша L2 до 2 МБ на ядро и до 164 МБ кэша L3, а также поддерживает интерфейс PCIe 6.0 и CXL 3.1. TDP CPU Vera достигает 450 Вт, а в купе с памятью LPDDR5X с TDP в 50 Вт общий показатель достигает 500 Вт, что эквивалентно TDP топовых процессоров на архитектуре x86. Центральный процессор Nvidia Vera поступит на рынок во второй половине 2026 года и будет поставляться как в формате стоек Vera Rubin NVL72, так и самостоятельно в виде нод или чистых CPU-стоек.

По программной поддержке у Vera CPU все в духе Nvidia — все драйверы под чип доступны в ядрах Linux 7.1 и выше, доступны различные компиляторы и другие системные инструменты. Майкл отметил, что все тесты проводились на Ubuntu 24.04 LTS с базовой конфигурацией ОС, включающей исправленное ядро Linux 6.18 LTS в сочетании с GCC 16.1 — Vera отлично подружился с операционкой и прекрасно работал, но некоторые функции, такие как управление питанием, пока дорабатываются. 

Чип сравнивали с топовыми (но не флагманскими) серверными центральными x86-процессорами AMD и Intel, которые Nvidia посчитала оптимальными для сравнения со своим Arm-процессором Vera. Также не обошлось без сравнения с предыдущим процессором Nvidia Grace CPU.

• AMD EPYC 9455 — процессоры с 48 ядрами / 96 потоками, частотой 3,15-4,1 ГГц, TDP 300 Вт. В тестах используется только двухсокетная конфигурация.
• AMD EPYC 9475F — высокочастотный процессор с 48 ядрами / 96 потоками, тактовой частотой 3,65-4,8 ГГц, TDP 400 Вт. В тестах фигурирует только двухсокетная конфигурация.
• AMD EPYC 9575F — процессор, рекомендуемый AMD для построения ИИ-серверов. Имеет 64-ядра / 128 потоков, частоту 3,3-5,0 ГГц, TDP 400 Вт. В тестах используется как отдельный чип, так и в двухсокетной конфигурации.
• AMD EPYC 9755 — процессор со 128 ядрами / 256 потоками, частотой 2,7-4,1 ГГц и TDP 500 Вт. Односокетная и двухсокетная конфигурация в тестах.
• Intel Xeon 6980P —  процессор с 128 ядрами / 256 потоками, частотой 2,0-3,9 ГГц, TDP 500 Вт и поддержкой памяти MRDIMM-8800. Используется односокетная и двухсокетная конфигурация.
• NVIDIA Grace — процессор NVIDIA Grace текущего поколения с 72 ядрами Arm Neoverse-V2 (без многопоточности) и 256 ГБ памяти LPDDR5-8533 МТ/с.

Nvidia попросила Майкла не включать мониторинг энергопотребления процессора во время первого раунда тестирования, а также не отслеживать частоту чипа, и это наводит на некоторые мысли. По всей видимости, заявленный TDP Vera в 500 Вт во время нагрузок подскакивает выше оптимальных значений, хотя это можно списать на допиливаемую функцию управления питанием, а частота чипа может сильно отставать от конкурирующих процессоров AMD и Intel.

Еще одно большое НО: Nvidia потребовала от гостя, чтобы он тестировал только конкретные рабочие нагрузки, которые компания считает целевыми для своего нового Arm-процессора — то есть, тестировались только те нагрузки, в которых Vera чувствует себя более-менее хорошо, поэтому результаты нельзя назвать на 100% объективными. Не исключено, что потом Хуанг раскроет все карты и позволит провести более широкий набор тестов, но пока приходится довольствоваться тем, что есть.

Также стоит отметить, что в некоторых нагрузочных тестах двухпроцессорные конфигурации CPU могут не масштабировать производительность из-за конкуренцию за шину или особенностей самого бенчмарка, поэтому не стоит удивляться, что в некоторых замерах односокетные и двухсокетные платформы дают одинаковые результаты иди незначительный прирост.

А теперь приступаем к анализу тестов!

В тестах на компиляцию кода Timed Gem5 Vera не смог превзойти двухсокетные конфигурации с высокочастотными чипами AMD, но почти сравнялся с результатами двухсокетной системы на базе AMD EPYC 9575F. Тем не менее, отрыв от предыдущего поколения Grace и решений Intel Xeon весьма велик.

В том же тесте по производительности на 1 ядро Vera уже смог вырваться на второе место, уступив только AMD EPYC 9575F.

В задачах компиляции игрового движка Godot в многопоточке Vera уступил практически всем чипам AMD, обойдя только односокетный AMD EPYC 9575F и Xeon 6980P.

В том же тесте, но в однопоточной производительности Vera снова вырвался вперед, заняв третье место.

В компиляции Node.js Vera крепко удерживал третье место в многопотоке и второе место в однопотоке.

В кросс-компиляции с процессоров ARM64 на x86_64 Vera показал лучшие результаты в обоих режимах, но при сборке ядра allmodconfig x86_64 со всеми возможными модулями Vera слегка уступил только двухсокетным AMD EPYC 9575F и 9755.

А вот где Nvidia Vera действительно хорош, так это в стресс-тестах памяти — в открытом бенчмарке Stream процессор ушел далеко вперед по пропускной способности от своих x86-конкурентов — все благодаря передовой скорости модулей SOCAMM2 на базе чипов LPDDR5X, которая в 2 раза быстрее самых технологичных модулей DDR5.

А вот в многопоточном сжатии 7-Zip чип Vera уже сильно отстал, опередив только 2x EPYC 9455, 1x EPYC 9575F и Grace. Зато в однопотоке Vera снова мощно реабилитировался, заняв первое место. В многопоточной распаковке arm-чип оказался слегка лучше, но в однопотоке он все еще на первом месте, причем, значительно опережая конкурентов.

В кодировании/декодировании видеокодека AV1 Vera в большинстве видов нагрузок практически не уступал AMD EPYC 9005, а в воспроизведении 10-битного видео в формате 4K чип вовсе доминировал.

Работа Python на Nvidia Vera сильно варьировалась от выбранного бенчмарка, но в среднем он соответствовал топовым решениям AMD EPYC 9005.

В Java-нагрузках Nvidia Vera стабильно удерживал топ-3, а где то вырывался и в топ-1.

В задачах сжатия по стандарту Zstandard процессор Vera оказался не так хорош и почти во всем уступал x86-чипам, однако при переключении на максимальный уровень высокочастотных моделей сжатия чип резко вышел в лидеры.

В среднем arm-процессор Nvidia Vera оказался почти во всем лучше тестируемых x86-чипов.

Итак, какие выводы можно сделать из всей этой эпопеи? Ну, во-первых, пока что называть Vera “убийцей чипов AMD и Intel” будет очень опрометчиво — Nvidia определенно знает, в каких нагрузках их arm-чудо отстает от конкурентов, поэтому и дала гостю строго выверенный набор тестов. В тех задачах, которые разрешил показать Хуанг, чип Vera действительно хорош — прирост относительно Grace в 63% и прирост 10% относительно AMD EPYC 9575F впечатляет. Но мы все еще не увидели результатов Geekbench, SPEC CPU, а также производительности на ватт и других важных метрик, которые сделают оценку более честной. Во-вторых, в сравнении участвовали не самые мощные серверные чипы AMD и Intel, поскольку они с высокой долей вероятности разорвали бы в клочья Nvidia Vera. Да, частично многоядерную эффективность пытались продемонстрировать с помощью двухсокетных систем, однако набор тестов, которые не отражают производительность подобных конфигураций в должной мере из-за особенностей бенчмарков, на корню убивают объективность такого выбора. Тем не менее, во многих тестах Vera оказался действительно неплох, поэтому его вполне можно назвать одним из самых мощных Arm-процессоров, поскольку тем же Ampere или многочисленным кастомным arm-чипам от Google и Microsoft далеко до современных x86-чипов. Однако не за горами выход передового ARM AGI, который тоже обещает составить конкуренцию флагманским процессорам AMD и Intel, да EPYC 9006 Venice сойдет с производственных линий со дня на день, так что Nvidia Vera еще ни раз придется доказывать свою эффективность в современных реалиях.