Nvidia HGX B300 NVL16 получила ряд улучшений по сравнению с предыдущими решениями NVL

Платформа Nvidia HGX B300 NVL16 для сектора ИИ и высокопроизводительных вычислений, представленная 25 марта 2025 года на конференции GTC, получила ряд значительных архитектурных изменений в сравнении с серверами HGX B200. Теперь платформа явно указывает количество вычислительных ядер, подключенных через NVLink (16), вместо акцента на число графических процессоров. Это изменение заставляет производителей серверов переосмыслить подходы к интеграции подсистемы.

Прошлое поколение серверных систем HGX B200 не имела каких-либо серьезных архитектурных изменений по сравнению с HGX B100 — отличия были выражены в большей степени по производительности. Однако, с выходом HGX B300 NVL16 ситуация кардинально поменялась. Платформа оснащается до 2,3 ТБ памяти HBM3e, а ее конструкция включает шестнадцать модулей, в каждый из которых интегрировано по два графических чипа Blackwell. Также в HGX B300 NVL16 добавили два чипа-коммутатора NVLink, расположенные в центре между восемью пакетами GPU. Такая компоновка напоминает решения, использовавшиеся в HGX B200, но с рядом определенных улучшений, причем, даже визуальных — HGX B300 NVL16 выделяется восемью крупными радиаторами воздушного охлаждения, каждый из которых обслуживает два GPU Blackwell, и центральной секцией для коммутаторов NVLink. На торцевой части платформы расположены разъемы OCP UBB с защитными крышками — такие разъемы используются Nvidia, AMD, однако, OCP считаются весьма хрупкими, поэтому защитные крышки для них критически важны.

Между радиаторами GPU и разъемами OCP UBB размещены компактные радиаторы, которые в прошлых версиях HGX были необходимы для охлаждения ретаймеров PCIe. Теперь их место заняли сетевые карты NVIDIA ConnectX-8. Благодаря встроенному в ConnectX-8 коммутатору PCIe, Nvidia не требуется интегрировать в систему дополнительные чипы, что значительно упрощает производство системы, тем самым снижая итоговую стоимость и уменьшая вероятность поломок. Например, в ASUS AI Pod NVIDIA GB300 NVL72 (показанном на GTC 2025) восемь сетевых подключений реализованы через съемный лоток HGX, что демонстрирует новые возможности для интеграции.

Для производителей серверов такие изменения могут принести не только пользу, но и вызвать ряд проблем. В частности, теперь конструкции слотов и панелей теперь требует нового подхода к прокладке кабелей, так как ранее их часто прокладывали через зазоры между сетевыми картами ConnectX-8 и внешними панелями корпуса.

Несмотря на то, что на первый взгляд изменения могут показаться незначительными, на самом деле интеграция ConnectX-8 в HGX B300 NVL16 может оказать большое влияние на сферу создания ИИ и HPC-систем от Nvidia. Компания не только увеличивает число GPU, делая оборудование более производительным, но и усиливает контроль над сетевой инфраструктурой, ограничивая пользователей в выборе производителей сетевого оборудования. Конечно, это упрощает проектирование систем для одних производителей, но вызывает сложности для пользователей, которым важна повышенная совместимость и возможность кастомизации. Другими словами, HGX B300 NVL16 стала не просто очередным апгрейдом железа, а демонстрацией того, что Nvidia постепенно идет к созданию закрытой экосистемы.