Nvidia RTX PRO Server — новые серверы на базе видеокарт RTX PRO 6000 Blackwell

Введение 19 мая 2025 года на конференции Computex 2025 в Тайбэе компания Nvidia анонсировала серверные платформы с поддержкой интеграции профессиональных видеокарт RTX PRO 6000 Blackwell. Эти системы обеспечивают высокую производительность и большой объем видеопамяти для инференса и обучения передовых моделей искусственного интеллекта, при этом стоимость новых RTX PRO серверов ниже, чем у полноценных вычислительных систем DGX и HGX. Подробнее о сервере RTX PRO RTX PRO 6000 Blackwell — это передовые, профессиональные видеокарты от Nvidia, предназначенные для интеграции в топовые рабочие станции и GPU-серверы для выполнения наиболее ресурсоемких задач искусственного интеллекта и работы с мультимедиа. Эти графические ускорители базируются на чипе GB202, который изготовлен по 5-нм техпроцессу и имеет 24 064 ядер CUDA, 752 тензорных ядер пятого поколения, обеспечивая 4000 TOPS и 125 TFLOPS FP32. Помимо этого, PRO 6000 Blackwell имеет 96 ГБ памяти GDDR7 с пропускной способностью до 1.8 ТБ/с. TDP этих решений достигает 600 Вт. Именно эти инновационные графические ускорители станут основой для новых GPU-серверов Nvidia RTX PRO, в которые можно интегрировать до 8 видеокарт PRO 6000 Blackwell. При полной конфигурации серверы Nvidia RTX PRO смогут обеспечить до 800 ГБ видеопамяти с пропускной способностью в 13 ТБ/с, а ИИ-производительность решения достигает 30 PFLOPS в режиме FP4, благодаря чему на этом сервере можно будет запускать и обучать большинство современных моделей искусственного интеллекта, при этом без необходимости сжимать объем параметров. Кроме того, новые серверы Nvidia будут полезны в таких задачах, как компьютерное моделирование, научные вычисления и работа с графикой.  Серверы Nvidia RTX PRO в исполнении ASRock и MSI. Источник: YouTube. Помимо профессиональных видеокарт, в серверы RTX PRO будут интегрированы DPU BlueField-3. Все эти элементы будут подключаться друг к другу с помощью сетевого адаптера ConnectX-8 SuperNIC (CX8) со встроенными коммутаторами PCIe Gen 6, который позиционируется как материнская плата в рамках этой системы. Благодаря CX8, 8 видеокарт RTX PR0 6000 будут взаимодействовать друг с другом, а также с другими вычислительными нодами в рамках серверной стойки, образуя полноценные вычислительные кластеры. Фабрики искусственного интеллекта и дата-центры, которые интегрируют серверы RTX PRO, также получать новую, программную платформу Nvidia AI Enterprise, благодаря которой разработчики смогут оптимизировать производительность ИИ-вычислений и точность работы ИИ-агентов с помощью микросервисов Nvidia NIM, NeMo и AI Blueprints.  Коммутатор CX8, выступающий в роли материнской платы для новых GPU-серверов RTX PRO. Источник: YouTube. Выводы Серверы RTX PRO на базе профессиональных видеокарт — амбициозный, но не революционный шаг, ведь на рынке уже существует множество серверный платформ, поддерживающих интеграцию видеокарт, например, Supermicro A+ Server 4124GS-TNR 4U 24SFF. Помимо этого, ранее Nvidia уже выпускала профессиональные графические ускорители RTX Quadro, которые предполагали интеграцию в серверы, но из-за активной системы охлаждения создание GPU-серверов на базе этих видеокарт было сомнительно. Теперь Nvidia оснастила видеокарты RTX PRO 6000 пассивной системой охлаждения, что позволяет использовать их для выстраивания эффективной вычислительной инфраструктуры, выводя на рынок собственный стандарт GPU-серверов.