Astera Labs представила Orion — ИИ-стойки на открытой архитектуре для ИИ-инференса с поддержкой до 160 PCIe-ускорителей

Компания Astera Labs, известная выпуском коммутационных чипов для ИИ-инфраструктур, представила Orion — модульную референсную архитектуру ИИ-стоек для масштабного ИИ-инференса. Главная особенность Orion — полная независимость от поставщика оборудования: Orion позволяет объединить до 160 PCIe-ускорителей любых вендоров в единую фабрику на базе интерфейса PCIe 6.0, не привязываясь к NVIDIA, AMD или конкретной платформе. Сама Astera Labs не выпускает GPU, а предлагает архитектуру, коммутаторы, модули связи и ПО для управления, на основе которых OEM и ODM партнеры будут собирать готовые системы. Первые решения на базе Orion появятся в первом квартале 2027 года.

В основе архитектуры Orion лежат 320-линейные коммутаторы Scorpio X-Series с поддержкой PCIe 6.0, которые Astera Labs представила еще в мае 2026 года. Одна ИИ-стойка Orion с коммутаторами Scorpio X-Series масштабируется от 8 до 160 ускорителей, причем они необязательно должны находиться в одной стойке. Архитектура ИИ-стойки Orion включает несколько типов модулей: вычислительный модуль на 8 ускорителей, модуль памяти, модуль коммутации с неблокирующей топологией, а также коммутационную плату. Все они работают под управлением ПО COSMOS Rack Manager и COSMOS Fabric Manager, которое отвечает за управление, телеметрию и диагностику на уровне всего парка оборудования.

Одна из ключевых возможностей Orion — аппаратное ускорение вычислительных операций. Коммутаторы Scorpio X-Series поддерживают технологии Hypercast и In-Network Compute, и ранее Astera Labs заявляла об ускорении вычислений до 2 раз. Однако это не означает, что инференс в стойках Orion будет ускорен в 2 раза: эффект зависит от того, насколько активно ускорители обмениваются данными. Модуль памяти Orion-MT позволяет подключать внешнюю память к ускорителям через фабрику, в том числе для выгрузки KV-кэша. Это особенно полезно при длинных контекстах и большом числе параллельных запросов, хотя многое будет зависеть от пропускной способности и задержек памяти.

Но у Orion есть и ограничения. Линия PCIe 6.0 x16 теоретически обеспечивает около 128 ГБ/с в одну сторону и 256 ГБ/с в обе, что заметно меньше, чем у специализированных интерконнектов, вроде NVLink. Для части инференс-нагрузок такой подход может оказаться экономически выгоднее, но поддержка PCIe еще не гарантирует эффективного взаимодействия GPU в системе. Для каждой конфигурации придется проверять P2P-обмен, программный стек, топологию и ограничения конкретных GPU. Независимых измерений сквозной производительности Orion Astera Labs пока не представила, поэтому сравнивать его с топовыми ИИ-стойками Nvidia и AMD по эффективности распределенного инференса рано.

Одновременно Astera Labs вместе с Lumentum и Corning продемонстрировала оптический PCIe-интерконнект на VCSEL-лазерах с длиной волны 1060 нм и многомодовом оптоволокне. Демо-система использует несколько оптических каналов по 32 Гбит/с и передает трафик PCIe 5.0 через коммутатор Scorpio. Пока это лишь демонстрация концепции, а не готовая коммерческая платформа для PCIe 6.0.

Orion предлагает гиперскейлерам и крупным компаниям возможность возводить масштабные инференс-кластеры из стандартных PCIe-ускорителей, без обязательной закупки закрытых платформ HGX или NVL. Для операторов, которые не хотят зависеть от одного поставщика GPU и рассчитывают менять ускорители по мере появления более выгодных вариантов, это привлекательная идея: стойка, фабрика и ПО для управления остаются прежними, меняются только вычислительные модули. Для самой Astera Labs Orion — способ превратиться из поставщика отдельных чипов в разработчика целой стоечной архитектуры, на которой смогут зарабатывать OEM и ODM партнеры. Тем не менее считать Orion прямым конкурентом Nvidia и AMD пока рано: PCIe уступает проприетарным интерконнектам по пропускной способности, а независимых тестов реальной производительности еще нет.