SambaRack — стоечное RDU-решение от стартапа SambaNova
Введение
Американский стартап SambaNova, известный своими уникальными RDU-ускорителями искусственного интеллекта, 8 июля 2025 года представил полноценные стоечные решения SambaRack на базе RDU SN40L. Как заявляет компания, SambaRack обеспечивает наибольшее количество токенов на ватт в сравнении с решениями конкурентов, причем, для любых ИИ-моделей.
Передовая стойка для инференса LLM SambaRack на базе 16 RDU SN40L. Источник: .
Подробнее о SambaRack
Стойка SambaRack базируется на 16 RDU-чипах SN40L, использующие архитектуру DataFlow — особую компоновку чипов и микросхем памяти, которая обеспечивает максимальную производительность и эффективность при высокоскоростном инференсе данных LLM. Память решений имеет три уровня — DDR, HBM и SRAM.
Серверная нода на базе двух ИИ-ускорителей SN40L, которая интегрируется в вычислительную стойку SambaRack. Источник: .
Благодаря этому, SambaRack способна обеспечивать беспрецедентную скорость при выводе передовых моделей искусственного интеллекта, например, внутренние тесты компании показали, что SambaRack лидирует в задачах инференса размышляющего ИИ Qwen3 32b. При этом, все развертываемые на SambaRack ИИ-модели не теряют в точности, демонстрируя высочайшую производительность.
SambaRack демонстрирует доминирующую скорость вывода нейросети Qwen3 32b. Источник: .
Компания SambaNova отмечает, что передовые решения SambaRack ориентированы на интеграцию в современные дата-центры, инфраструктуры разработчиков искусственного интеллекта, а также в системы, относящиеся к государственному сектору. SambaRack также поддерживают беспрецедентное масштабирование в рамках end-to-end решения SambaManaged. Как отмечает стартап, SambaManaged — первый в отрасли продукт для центров обработки данных, оптимизированный для логического вывода, который можно развернуть всего за 90 дней, вместо стандартных 18-24 месяцев. Причем, модульная система требует минимальных изменений текущей инфраструктуры, позволяя дата-центрам оперативно начать осуществлять инференс ИИ при минимальных накладных расходах и с высочайшей энергоэффективностью.
ИИ-кластер SambaManaged на базе стоек SambaRack. Источник: .
Выводы
По всей видимости, на рынке инференса искусственного интеллекта появился новый игрок в лице SambaNova. Компания меньше чем за год выпустила массу ИИ-ориентированных решений, включая облачный сервис SambaCloud, серверы на базе чипов RDU SN40L и, наконец, стойки SambaRack и решения SambaManaged, развертываемые “под ключ” всего за 90 дней. Однако SambaNova в данный момент не распространяется о точных характеристиках своего оборудования, поэтому реальная эффективность решений стартапа остается под вопросом.
