Релиз Ryzen AI. Процессоры с NPU XDNA 2 для задач ИИ
Введение
На выставке Computex 2024 AMD представила новые мобильные процессоры Ryzen AI 300 Strix Point. Архитектура новых процессоров разительно отличается от того, что мы видели ранее. Теперь на подложке у нас единый монокристалл, со множеством различных блоков внутри. Компания сделала акцент исключительно на производительности в задачах ИИ.
Внутреннее устройство процессора Ryzen AI: NPU, блок ядер, GPU. Источник - презентация AMD Computex 2024
Ryzen AI 9 HX 370
Разберём на примере Ryzen AI 9 HX 370. В монокристалле мы имеем единый блок ядер ZEN5 и ZEN5C ядер с L3 Cache. Примечательно, что ядра 2 блока Zen5c имеют общие 8MB L3 Cache, в то время как у Zen5 ядер кэш 16MB. Если говорить простым языком, то это похоже на решения Intel с маленькими и большими ядрами. В процессоре теперь присутствует NPU блок на архитектуре XDNA 2 для ускорения работы ИИ с производительностью в 50 TOPS. Обновления коснулась и графики. Ryzen AI 9 HX 370 имеет 8CU RDNA 3.5, аналогов на рынке в данный момент пока не существует, по слайду AMD видно, что будут решения и на 16CU.
Крайне интересный процессор Ryzen AI 9 HX 370. Источник - презентация AMD Computex 2024
Процессоры за счёт нового блока NPU увеличили производительность вычислений FP16 путём добавления отдельного блока для вычислений FP16. Ранее для работы с нейросетями активно применялся режим INT8 для ускоренной работы, однако результат такого обучения был не всегда удовлетворительным. Для улучшения результатов использовался FP16, который делал это дольше, но качественнее. AMD заверяет, что на новых процессорах можно получить сопоставимые скорости при 8-bit (INT8) и результат как при 16-bit (FP16). Сегодня большинство приложений работают на FP16 системе.
NPU на базе XDNA 2 - самое производительное решение для Copilot+ PCs. Источник - презентация AMD Computex 2024
Наглядная таблица производительности и точности режимов вычислений INT8, Block FP16 и FP16 в новых NPU XDNA 2. Источник - презентация AMD Computex 2024
AMD выпустила продукт новой эры для «AI PC». Новая версия OS Windows будет тесно интегрирована с нейросетью Microsoft Copilot. Для быстрой работы нейросети задействуются мощности новых процессоров, предполагается, что эти процессоры будут справляться с задачами AI в десятки раз быстрее обычных процессоров без NPU блока. К сожалению, нам не показали никаких тестов чистой производительности процессоров хотя бы в бенчмарках, ввиду этого факта мы не можем сделать выводов, о процентном приросте производительности за поколение в классических задачах или, например, играх.
Весь упор презентации был акцентирован именно на работу с ИИ, а именно Copilot+ PCs. Интересно увидеть реальные тесты производительности и как именно AI PC изменят наш опыт использования компьютеров.
Разница результатов визуализации изображений на базе INT8, Block FP16, FP16. Источник - презентация AMD Computex 2024
Если говорить о конкуренции с Intel, то их процессоры Lunar Lake устарели, не успев выйти в свет в задачах ИИ. Осталось сравнить производительность этих решений между собой, чтобы увидеть полную картину соперничества двух компаний.
