AMD представила Instinct MI450X с 288 ГБ HBM4

AMD расширила линейку ускорителей Instinct MI400, добавив модель MI450X с 288 ГБ памяти HBM4. Новинка предлагает те же вычислительные возможности, пропускную способность и масштабируемость, что и флагманский MI455X, но с меньшим объемом памяти — для задач, которым не требуется максимальный запас. Одновременно компания раскрыла подробности о MI430X для научных вычислений и опубликовала результаты тестирования MI455X в составе стоечного решения Helios: в инференсе DeepSeek-R1 ускоритель показал 21 333 токена в секунду на GPU, что, по данным AMD, до 30% выше последнего опубликованного результата Nvidia Vera Rubin в MLPerf Inference Offline. Оба варианта, MI450X и MI455X, работают в одной открытой стоечной архитектуре Helios и на программной платформе ROCm.

MI450X построен на архитектуре CDNA 5 с использованием 2-нм и 3-нм техпроцессов TSMC и содержит 320 млрд транзисторов. Чип насчитывает 256 рабочих групп процессоров (WGP), 192 МБ кэш-памяти L2, 8 стеков памяти HBM4 и обеспечивает пиковую пропускную способность 23,3 ТБ/с. Пиковая производительность в форматах OCP MXFP4 составляет 40,3 Пфлопс, в MXFP6 и MXFP8 — 20,1 Пфлопс, в FP16 и BF16 с матричными операциями — 5 Пфлопс с возможностью удвоения при структурной разреженности. Ускоритель поддерживает масштабирование внутри узла через UALoE с двунаправленной пропускной способностью 3,6 ТБ/с и между узлами через UALink с 600 ГБ/с, оснащен прямым жидкостным охлаждением и поддерживает SR-IOV, ROCm, PyTorch, JAX, vLLM и SGLang.

Главное отличие MI450X от MI455X — объем памяти: 288 ГБ против 432 ГБ. Вычислительное ядро, пропускная способность памяти и возможности масштабирования у них идентичны, поэтому выбор между моделями сводится к тому, помещается ли рабочая нагрузка в 288 ГБ. MI455X дает дополнительный запас для более крупных моделей, длинных контекстов или большего числа одновременных запросов, тогда как MI450X позволяет снизить операционные расходы там, где этого запаса не требуется.

Результаты MI455X в Helios — 21 333 токена в секунду на GPU на модели DeepSeek-R1 в конфигурации MLPerf Inference Offline. AMD заявляет, что это до 30% выше последнего опубликованного результата Nvidia Vera Rubin NVL72 в закрытом дивизионе MLPerf Inference v6.1, а также указывает на 20% более высокую пропускную способность HBM и более широкую полосу масштабирования внутри узла по сравнению с Vera Rubin. Стоит отметить, что тестирование проводилось самой AMD в ее лаборатории производительности, а не независимой организацией.

Для научных задач представлен MI430X с 432 ГБ HBM4 и пропускной способностью 23,3 ТБ/с. Ключевая особенность — аппаратная поддержка вычислений с двойной точностью: пиковая производительность FP64 достигает 288 Тфлопс, что в разы выше, чем у конкурентов, ориентированных на ИИ-нагрузки. Модель предназначена для случаев, где эмуляция FP64 недостаточна и научные коды требуют нативной поддержки. AMD также опубликовала исследование 47 конфигураций рабочих нагрузок в 11 приложениях, чтобы показать, где эмуляция справляется, а где необходима аппаратная точность.

AMD выстраивает линейку MI400 не вокруг одной модели, а вокруг выбора под конкретную нагрузку. MI430X закрывает научные вычисления с нативным FP64, MI455X дает максимальный запас памяти для фронтирных моделей, а MI450X предлагает тот же вычислительный потенциал за меньшие деньги там, где 288 ГБ достаточно. Такая сегментация снижает порог входа в Helios и позволяет заказчикам не переплачивать за память, которая не будет использована. Заявленное преимущество над Vera Rubin в инференсе DeepSeek-R1 подкреплено конкретными цифрами и ссылкой на опубликованные результаты MLPerf, хотя и получено в собственной лаборатории AMD.