Xiaomi AI Cube — прототип компактного ИИ-ПК на базе трех чипов XRing со 160 ГБ унифицированной памяти

Компания Xiaomi показала прототип собственного мини-ПК AI Cube. Внутри алюминиевого корпуса расположены три фирменных чипа компании: хост-процессор Xring O3, матричный ускоритель Xring O100 и вычислителный ускоритель Xring D100. Такая конфигурация ориентирована на локальный запуск открытых языковых моделей размером до 120 миллиардов параметров без облака и без дискретных видеокарт. Пока это инженерный образец без объявленной розничной цены, но, по оценкам аналитиков, себестоимость серийной версии может составить 1200-1500 долларов.

AI Cube выполнен в виде небольшого настольного блока из авиационного алюминия. Металлический корпус выполняет функцию массивного радиатора: на его поверхностях расположены тысячи микроотверстий для лучшей вентиляции, а внутри установлена испарительная камера, накрывающая всю кремниевую начинку и чипы памяти. Мощный воздушный поток обеспечивает единственная радиальная турбина на гидродинамическом подшипнике. Питание подается через один кабель Type-C по Power Delivery от внешнего GaN-блока мощностью 200 Вт, при этом TDP AI Cube под нагрузкой, по данных Xiaomi, составляет всего 150 Вт.

Аппаратная начинка AI Cube выполнена тремя разными чипами, расположенными на единой подложке со скоростным межкристальным интерконнектом. Процессор Xring O3 работает в роли CPU-хоста и представляет из себя SoC на архитектуре ARM v9.2 с 10 ядрами (2 супер-ядра, 4 производительных, 4 энергоэффективных), встроенной графикой G2-Ultra NX на 16 ядер и NPU на 200 TOPS, поддерживающий вычисления в формате INT8/FP8. Этот чип управляет операционной системой, драйверами, накопителями и сетевым стеком. При этом Xring O3 также оснащен контроллером памяти LPDDR6, что делает чип одним из первых мобильных решений с поддержкой нового поколения энергоэффективной памяти. 

Матричный NPU-ускоритель Xring O100 изготовлен по 6-нм техпроцессу TSMC с применением 3D-компоновки: логический слой и слой нейронного процессора соединены с двумя высокоскоростными слоями DRAM вертикально через Wafer-on-Wafer. Использование технологии Hybrid Bonding уменьшило шаг соединения до 1,4 мкм, а Face-to-Face металлическое соединение сократило расстояние между DRAM и вычислительным слоем. Пропускная способность решения достигает 1,22 ТБ/с. В системе Xring O100 необходим для выполнения матричных операций и выполнения фазы декодирования при генерации новых токенов LLM.

SoC-система Xring D100, которая была разработана прежде всего для автопилота электромобилей Xiaomi, представляет из себя 3-нм кристалл с 20 CPU-ядрами и 16-ядерным NPU. В Xring D100 интегрирован 4-канальный контроллер унифицированной памяти с поддержкой LPDDR5X/LPDDR6 объемом до 160 ГБ, доступ к которой есть и у CPU, и у NPU части. SoC-решение, по данным Xiaomi, поддерживает локальный инференс LLM объемом до 200 миллиардов параметров.

Xiaomi AI Cube также оснащен 2 портами USB4/Thunderbolt со скоростью 40 Гбит/с и поддержкой DisplayPort 2.1, два Ethernet-порта 10 Гбит/с для объединения нескольких кубов в вычислительный кластер, HDMI 2.1 с поддержкой 4K/120 Гц, а также беспроводные модули Wi-Fi 7 и Bluetooth 5.4.

Модели объемом на 3-14 млрд параметров, по типу Qwen 2.5, в режимах FP16 или Q8 работают на связке O3 и O100: скорость генерации превышает 85-100 ток/с при энергопотреблении около 35 Вт. Модели уровня 70 миллиардов параметров в 4-битном квантовании задействуют память D100, и за счет пропускной способности 1,22 ТБ/с скорость достигает 25-28 ток/с. Большие модели объемом 110-120 млрд параметров, на базе MoE-архитектуры и с контекстным окном 32-64 тысяч токенов полностью помещаются в пул памяти 160 ГБ и запускаются со скоростью 10-14 ток/с при максимальном энергопотреблении 150 Вт.

Программное обеспечение базируется на специализированном Linux-дистрибутиве с прослойкой HyperOS AI Server. Для совместимости с мировым софтом разработан рантайм XRing Core, транслирующий операторы CUDA в инструкции для O100 и D100. Заявлена поддержка vLLM, llama.cpp, Ollama и PyTorch из коробки. Доступ к машине возможен через веб-интерфейс, локальный OpenAI-совместимый API или SSH.

Несмотря на то, что Xiaomi AI Cube на данный момент представляет из себя не более, чем прототип грядущего ИИ-ПК, по раскрытым характеристикам уже можно определить, что это будет крайне интересное решение, которое вполне может начать конкурировать с ведущими производителями ИИ-ПК, такими как AMD и Nvidia. Гетерогенная сборка из трех собственных чипов позволяет сбалансировать энергопотребление и производительность, а объем в 160 ГБ унифицированной VRAM хоть и отстает от ведущих ИИ-ПК AMD Halo Box на базе Gorgon Halo, но уже позволяет запускать крупные LLM объемом до 200 миллиардов параметров с приемлемой скоростью. Если серийная версия выйдет по цене до двух тысяч долларов, AI Cube вполне может стать отличной альтернативой Mac Studio, DGX Spark и Halo Box. Главные вопросы сейчас — зрелость рантайма XRing Core и масштабируемость производства столь специфической кремниевой сборки, но сама концепция уже выглядит как жизнеспособно.