AMD представила Ryzen AI Software 1.4

Введение Компания AMD анонсировала релиз обновления Ryzen AI Software 1.4, которое значительно увеличивает функционал ПК с интегрированными возможностями искусственного интеллекта. Новая версия предлагает расширенную поддержку аппаратных решений, оптимизацию работы с передовыми LLM и набор инструментов для ускорения разработки ИИ-приложений. Универсальная поддержка ИИ-архитектур Главное нововведение Ryzen AI 1.4 — расширенная поддержка новых моделей искусственного интеллекта, в частности, Deepseek, Gemma и Qwen. Помимо этого, AMD также предлагает поддержку NLP-моделей, вроде BERT и других встраиваемых нейросетей, а также сверточных нейросетей CNN. В свою очередь, модели искусственного интеллекта CNN и NLP теперь можно автоматически компилировать в режимах INT8/BF16 благодаря оптимизации работы установщика. Еще одна дополнительная функция LLM теперь можно развертывать в гибридном режиме (NPU + iGPU) или исключительно на нейропроцессоре. Это снижает сложность настройки системы и ускоряет вывод новейших проектов на этап тестирования. Оптимизация точности данных в Windows Обновление вводит новый пул инструментов для работы с форматом BF16, который сохраняет широкий динамический диапазон FP32, используя 16-битные числа с плавающей запятой. Эта функция особенно эффективна для разработки глубоких нейросетей, требующих высокой точности при работе с малым и большим количеством параметров. Разработчики могут применять квантование BF16 без потери качества прогнозирования, что повышает производительность системы при работе с ресурсоемкими задачами. Гибридная обработка LLM через OGA Gen AI Новая версия программного обеспечения Ryzen AI 1.4 поддерживает два режима инференса языковых моделей: Гибридный — распределение операций между NPU и iGPU для минимизации времени генерации первого токена на этапе предварительной обработки (TTFT) и увеличения скорости вывода токенов на этапе декодирования (TPS). NPU-ориентированный — полная передача  ИИ-вычислений на нейропроцессор. Оба варианта обеспечивают быстрое развертывание дообученных или стандартных моделей искусственного интеллекта для реализации в различных сценариях использования. Инструментарий для разработчиков с открытым кодом Компания AMD также добавила различные инструменты с открытым исходным кодом. Вот некоторые из них: Digest AI — анализирует структуру моделей, извлекает основные метрики (FLOPS, метаданные, тензоры), сравнивает несколько решений и формирует детальные отчеты для ознакомления пользователем. Интеграция с Hugging Face упрощает доступ к готовым ИИ-моделям, выложенным на платформу. Lemonade SDK — мультиплатформенный набор API для тестирования LLM в гибридном/NPU-режимах. Позволяет оценить скорость вывода, производительность (через тесты MMLU) и сравнить эффективность разных ИИ-библиотек (Runtime Gen AI, Llama.cpp, Hugging Face). GAIA — платформа от AMD для запуска генеративного ИИ на локальных ПК. Поддерживает RAG-приложения, чат-ботов и кастомных агентов с ускорением через NPU/iGPU. Доступны CLI и GUI-интерфейсы. TurnkeyML — разработан совместно с сообществом ONNX для оптимизации PyTorch-моделей под любое оборудование. Упрощает конвертацию и выполнение инференса на различных типах устройств. Выводы AMD продолжает совершенствовать экосистему Ryzen AI, предлагая разработчикам инструменты для разработки передовых моделей LLM, что будет способствовать популяризации платформ AMD на рынке искусственного интеллекта. Стоит отметить, что обновление Ryzen AI Software 1.4 является частью новой стратегии компании AMD 2.0, которая направлена на усиление конкуренции с ИИ-гигантом Nvidia.