Intel анонсировала обновление Project Battlematrix

12 августа 2025 года Intel представила обновленную версию проекта Project Battlematrix, который ранее был анонсирован мае на выставке Computex 2025. Проект направлен на создание масштабируемых и экономичных рабочих станций для задач инференса искусственного интеллекта. Цель инициативы — ускорить реализацию стратегии Intel в области ИИ за счет упрощения интеграции графических процессоров Intel Arc Pro серии Battlemage с проприетарным программным стеком Intel. 

Новый стек делает приоритет на удобстве конечного пользователя и строгом соблюдении отраслевых стандартов. Он основан на контейнерном решении, адаптированном для сред Linux, гарантируя выдающийся уровень производительности при выводе данных с поддержкой масштабирования на несколько GPU. Кроме того, Battlematrix включает функции обеспечения надежности корпоративного уровня: поддержку памяти ECC, виртуализацию ввода-вывода с одним корневым узлом (SR-IOV), мониторинг телеметрии и возможность удаленного обновления прошивки. Эти улучшения призваны сделать высокопроизводительные ИИ-нагрузки более доступными и эффективными как для разработчиков, так и для корпоративных сред. 

Важным элементом обновления стал выпуск первой версии контейнера LLM Scaler 1.0, обеспечивающей корпоративным пользователям возможности раннего внедрения и тестирования. Это обновление построено на платформе vLLM и демонстрирует существенный прирост производительности. Оно обеспечивает до 1,8-кратного увеличения количества токенов на вывод в секунду (TPOP) для длинных входных последовательностей, превышающих 4K, на моделях с 32B KPI, а также впечатляющее 4,2-кратное увеличение показателя TPOP для моделей с 70B KPI при длине последовательности 40K. Оптимизация дает примерно на 10% более высокую пропускную способность для моделей KPI размером от 8 до 32 бит по сравнению с предыдущими версиями. LLM Scaler 1.0 также включает функционал для минимизации использования памяти GPU через послойное квантование, экспериментальную поддержку конвейерного параллелизма (PP), интеграцию с torch.compile и спекулятивное декодирование.

Релиз также расширяет совместимость моделей, добавляя поддержку моделей для встраиваемых систем и повторного ранжирования, улучшенную мультимодальную поддержку, автоматическое определение максимальной длины последовательности, параллелизм данных и инструменты тестирования OneCCL. Дополнительно, XPU Manager предоставляет возможности для управления питанием GPU, обновления встроенного ПО, диагностики и мониторинга пропускной способности памяти.

Intel подтверждает, что выпуск решения строго соответствует графику, намеченному в мае 2025 году. Компания планирует представить улучшенную версию LLM Scaler с дополнительными функциями к концу третьего квартала 2025 года. Ожидается, что в четвертом квартале последует полнофункциональный релиз, который еще больше укрепит позиции Intel в сфере искусственного интеллекта. Однако будет ли это решение востребованным, особенно в условиях доминации программных ИИ-стеков от Nvidia и активной экспансии AMD на этот рынок, станет ясно только после полноценного релиза Battlematrix.