Компания AMD официально выпустила открытую программную платформу ROCm 7.0, которая предназначена для компиляции программного кода нейросетей, написанного для Nvidia CUDA, с последующим переносом ИИ-приложений на вычислительную инфраструктуру с оборудованием AMD.
Подробнее о ROCm 7.0
Новая версия ROCm 7.0 представляет собой значительный шаг в развитии открытой альтернативы для разработчиков искусственного интеллекта. Платформа с открытым исходным кодом уже доступна для скачивания в официальном репозитории AMD на GitHub и включает ряд существенных улучшений. В частности, в ROCm 7.0 добавлена поддержка новешийх графических ускорителей MI350X и MI355X, реализована возможность сквозной передачи параметров KVM для этих GPU, а также обеспечена совместимость с популярными фреймворками, включая PyTorch 2.7, TensorFlow 2.19.1, ONNX 1.22, Triton 3.3 и JAX 0.6.0.
В ходе летней презентации AMD Advanced AI продемонстрировала впечатляющие результаты тестирования программного стека ROCm 7.0: производительность модели Llama* 3.1 70B увеличилась в 3,2 раза, в Qwen2-72B — в 3,4 раза, а в DeepSeek R1 — в 3,8 раза. При обучении моделей средний прирост производительности для Llama* 2 70B, Llama* 3.1 8B и Qwen 1.5 7B составил трехкратное улучшение.
Выводы
В планах AMD — дальнейшее расширение поддержки экосистемы ROCm. Представители компании уже заявили, что течение года будет добавлена совместимость с ноутбуками и рабочими станциями на базе центральных процессоров Ryzen, полноценная поддержка различных дистрибутивов Linux и официальная поддержка пользовательской операционной системы Windows. Все перечисленные оптимизации и планы компании направлены на решение проблем, на которые ранее жаловались ИИ-разработчики, поскольку долгое время ROCm не мог составить достойной конкуренции CUDA из-за низкой производительности и ограниченной совместимости.
*LLAMA — проект Meta Platforms Inc.**, деятельность которой в России признана экстремистской и запрещена
**Деятельность Meta Platforms Inc. в России признана экстремистской и запрещена
Продолжная использовать наш сайт, вы даете согласие на использование файлов Cookie, пользовательских данных (IP-адрес, вид операционной системы, тип браузера, сведения о местоположении, источник, откуда пришел на сайт пользователь, с какого сайта или по какой рекламе, какие страницы
открывает и на какие страницы нажимает пользователь) в целях функционирования сайта, проведения статистических исследований и обзоров. Если вы не хотите, чтобы ваши данные обрабатывались, покиньте сайт.