Nvidia HGX B300 NVL16 получила ряд улучшений по сравнению с предыдущими решениями NVL

Введение Платформа Nvidia HGX B300 NVL16 для сектора ИИ и высокопроизводительных вычислений, представленная 25 марта 2025 года на конференции GTC, получила ряд значительных архитектурных изменений в сравнении с серверами HGX B200. Теперь платформа явно указывает количество вычислительных ядер, подключенных через NVLink (16), вместо акцента на число графических процессоров. Это изменение заставляет производителей серверов переосмыслить подходы к интеграции подсистемы. В чем особенности Nvidia HGX B300 NVL16 Прошлое поколение серверных систем HGX B200 не имела каких-либо серьезных архитектурных изменений по сравнению с HGX B100 — отличия были выражены в большей степени по производительности. Однако, с выходом HGX B300 NVL16 ситуация кардинально поменялась. Платформа оснащается до 2,3 ТБ памяти HBM3e, а ее конструкция включает шестнадцать модулей, в каждый из которых интегрировано по два графических чипа Blackwell. Также в HGX B300 NVL16 добавили два чипа-коммутатора NVLink, расположенные в центре между восемью пакетами GPU. Такая компоновка напоминает решения, использовавшиеся в HGX B200, но с рядом определенных улучшений, причем, даже визуальных — HGX B300 NVL16 выделяется восемью крупными радиаторами воздушного охлаждения, каждый из которых обслуживает два GPU Blackwell, и центральной секцией для коммутаторов NVLink. На торцевой части платформы расположены разъемы OCP UBB с защитными крышками — такие разъемы используются Nvidia, AMD, однако, OCP считаются весьма хрупкими, поэтому защитные крышки для них критически важны. Характеристики системы HGX B300 NVL16. Источник: ServeTheHome.  Между радиаторами GPU и разъемами OCP UBB размещены компактные радиаторы, которые в прошлых версиях HGX были необходимы для охлаждения ретаймеров PCIe. Теперь их место заняли сетевые карты NVIDIA ConnectX-8. Благодаря встроенному в ConnectX-8 коммутатору PCIe, Nvidia не требуется интегрировать в систему дополнительные чипы, что значительно упрощает производство системы, тем самым снижая итоговую стоимость и уменьшая вероятность поломок. Например, в ASUS AI Pod NVIDIA GB300 NVL72 (показанном на GTC 2025) восемь сетевых подключений реализованы через съемный лоток HGX, что демонстрирует новые возможности для интеграции. NVIDIA HGX B200. Источник: ServeTheHome.  Для производителей серверов такие изменения могут принести не только пользу, но и вызвать ряд проблем. В частности, теперь конструкции слотов и панелей теперь требует нового подхода к прокладке кабелей, так как ранее их часто прокладывали через зазоры между сетевыми картами ConnectX-8 и внешними панелями корпуса. Выводы Несмотря на то, что на первый взгляд изменения могут показаться незначительными, на самом деле интеграция ConnectX-8 в HGX B300 NVL16 может оказать большое влияние на сферу создания ИИ и HPC-систем от Nvidia. Компания не только увеличивает число GPU, делая оборудование более производительным, но и усиливает контроль над сетевой инфраструктурой, ограничивая пользователей в выборе производителей сетевого оборудования. Конечно, это упрощает проектирование систем для одних производителей, но вызывает сложности для пользователей, которым важна повышенная совместимость и возможность кастомизации. Другими словами, HGX B300 NVL16 стала не просто очередным апгрейдом железа, а демонстрацией того, что Nvidia постепенно идет к созданию закрытой экосистемы.