Transformers v5: передовая библиотека Hugging Face для ИИ нового поколения

Hugging Face объявила о выпуске пятой версии своей ИИ-библиотеки Transformers, которая стала важнейшим обновлением за последние пять лет. Новая версия объединяет более 400 архитектур моделей и более 750 000 чекпоинтов на Hugging Face Hub, обеспечивая совместимость с огромным числом инструментов и платформ, включая llama.cpp, MLX, onnxruntime, vLLM и SGLang.

Команда разработчиков сосредоточилась на упрощении интеграции и стандартизации моделей. Благодаря модульной архитектуре, тесной интеграции с экосистемой Python и инструментами вроде Unsloth, Axolotl, LlamaFactory и MaxText, унифицированной обработке внимания и новой системе добавления моделей, поддержка языковых моделей и тонкая настройка стали проще и быстрее . Теперь библиотека позволяет интегрировать сложные модели, включая BERT и TTS-системы, требуя минимальной ручной работой. Особое внимание в Transformers v5 уделено масштабному обучению и логическому выводу. Поддержка оптимизированных ядер для прямого и обратного прохода, интеграция с инструментами тонкой настройки и возможность пакетной обработки внимания позволяют ускорить работу моделей и обрабатывать большое количество запросов одновременно. Серверная часть transformers serve совместима с OpenAI API, что открывает новые возможности для агентных систем и локального развертывания. Кроме того, Transformers v5 улучшает поддержку различных режимов квантования. Теперь модели могут работать с низкой точностью 8 и 4 бита для MoE, SOTA и других ИИ-архитектур, что позволяет оптимизировать ресурсы и ускорять инференс. Благодаря этому решение подходит для мультимодальных сценариев и высокопроизводительных систем, сохраняя полную совместимость с существующими инструментами экосистемы.

Новая версия Transformers v5 делает ИИ-экосистему Hugging Face более унифицированной и открывает возможности для масштабного обучения, локального запуска и интеграции с разнообразными инструментами, задавая ориентир для развития будущих поколений открытого искусственного интеллекта, демонстрируя достижения многолетней работы сообщества.