SFUpdate#6 — Новые GPU для ИИ сектора
Введение
Добрый день, уважаемые друзья! Команда ServerFlow рада представить вам долгожданное обновление нашего ассортимента. Мы не просто расширяем линейку серверных комплектующих — мы поднимаем их на качественно новый уровень. В рамках SFupdate #6 мы представляем целую серию обновленных продуктов, посвященных миру искусственного интеллекта.
Новинки ServerFlow.
Серьезное ИИ-обновление
Поскольку сектор ИИ активно развивается, наша команда занимается постоянным поиском новых вариантов ускорителей, которые могут помочь в осуществлении клиентских потребностей. В этом блоке мы представим вам несколько вариантов ускорителей. Nvidia A2 и Tesla T4 станут отправной точкой в мир ИИ для платформ с ограничениями по питанию, а Nvidia H100 80GB станет бескомпромиссным решением для самых требовательных клиентов благодаря интеграции архитектуры Hopper и сверхобъемного буфера памяти.
- Видеокарта NVIDIA A2 16GB GDDR6 [900-2G179-2720-101]
- Видеокарта NVIDIA Tesla T4 16GB GDDR6 [900-2G183-0200-100]
- Видеокарта NVIDIA H100 OEM 80GB HBM2e [900-21010-0000-000]
ИИ через ROCm
Представляем вашему вниманию ускорители AMD Radeon Instinct MI100 32GB на базе архитектуры CDNA 1.0. Эти ускорители оснащены сверхбыстрой памятью формата HBM2, что позволяет производить не только инференс ИИ, но и эффективное обучение. Поддержка современных версий программного стека ROCm позволит вам запускать все современные разработки из мира ИИ. Удобная кастомная система охлаждения позволит установить эту видеокарту даже в персональный компьютер.
- Видеокарта AMD Radeon Instinct MI100 32GB HBM2 [102D3431500]
- Система охлаждения для видеокарты AMD Instinct MI100 [Новый]
Instinct MI100 32GB имеет двухслотовый дизайн. Он идеально подойдет для развертывания систем обучения LLM.
Масштабируемые ИИ-платформы
Теперь, когда в наших руках есть множество ИИ-ускорителей, пришло время собирать масштабные ИИ-комплексы, включающие в себя до 8 ускорителей. Для осуществления этих идей на помощь приходит готовая серверная платформа от Supermicro. В ее основе лежит платформа AMD SP3, где при помощи процессоров на архитектуре Milan можно добиться самого высокого показателя эффективности хост-функций процессора как в инференсе, так и в обучении ИИ.
- Серверная платформа Supermicro A+ Server 4124GS-TNR 4U 24SFF (4x U.2, 4x 2000W, 2x SP3) [Новый]
A+ Server 4124GS-TNR имеет 4 NVMe отсека для установки U2 накопителей в бэкплейн.
Китайский ответ ИИ
Также мы начали экспериментальные работы в области китайских ИИ-ускорителей. Первым на очереди стал Huawei Atlas 300i. Это компактная низкопрофильная плата расширений, не требующая питания, имеет на своем борту сразу 32GB памяти. Установка нескольких таких ускорителей может значительно упростить локальное развертывание ИИ в корпоративных инфраструктурах. В особенности это решение актуально для 1U серверных платформах, испытывающих дефицит свободного места для установки полноценных плат расширения.
- ИИ-ускоритель Huawei Atlas 300i 32GB
Малый, да удалый NPU ускоритель Atlas 300i 32GB.
Вывод
Текущее обновление закрывает потребности начального, среднего и даже самого высокого уровня ИИ-систем. Нам важно обеспечить полное покрытие всего ИИ-сектора, поэтому планы нашей продуктовой политики столь диверсифицированы. В дальнейшем вас ждут новые новинки. Оставайтесь на связи с SFUpdate. А все озвученные новинки уже доступны к заказу на нашем сайте. Приятного дня!
