На конференции разработчиков глубокого обучения WAVE SUMMIT 2025 китайская корпорация Baidu представила ряд ИИ-новинок. Помимо облачной модели ERNIE X 1.1 и локальной LLM ERNIE-4.5-21B-A3B-Thinking, IT-гигант из поднебесной также анонсировала обновление фреймворка для разработки и интеграции искусственного интеллекта — PaddlePaddle Framework 3.2.
Подробнее о PaddlePaddle Framework 3.2
Новая версия открытого фреймворка PaddlePaddle 3.2 получила пул новых, улучшенных функций, которые вошли в состав набор инструментов полного цикла ERNIEKit и призваны оптимизировать процесс разработки новых больших языковых моделей. В частности, были добавлены системы для эффективного, высокопроизводительного предобучения ИИ, Supervised Fine-Tuning (SFT) и его облегченная версия LoRA, механизм оптимизации Direct Preference Optimization (DPO), функции квантизации Quantization-Aware Training (QAT) и посттренинговой квантизации (PTQ). Помимо этого, PaddlePaddle 3.2 получил инструмент FastDeploy v2.2 для высокопроизводительного инференса и развертывания LLM- и VLM-моделей, работающий на множестве платформ. FastDeploy v2.2 поддерживает экосистемы Hugging Face, обеспечивает высокую производительность, поддерживает передовые ИИ-модели Baidu, а также предлагает умные стратегии кэширования и дисагрегации моделей, унифицированную передачу KV Cache с NVLink/RDMA, OpenAI API/vLLM-совместимость, различные форматы квантования (W8A16, W4A8, FP8), ускорение через спекулятивное декодирование. Помимо этого, PaddlePaddle 3.2 включает два научно-вычислительных набора PaddleCFD и PaddleMaterials, ориентированных на инженерные и материаловедческие задачи.
Выводы
PaddlePaddle 3.2 привнес внушительный набор новых функций и позволит значительно увеличить эффективность создания и инференса новых моделей искусственного интеллекта. С учетом того, что фреймворк PaddlePaddle 3.2 будет полностью открыт для open-source сообщества, это обеспечит решениям Baidu широкую распространенность, поскольку ИИ-энтузиасты по всему миру задействуют эту передовую платформу в своих перспективных проектах.
Продолжная использовать наш сайт, вы даете согласие на использование файлов Cookie, пользовательских данных (IP-адрес, вид операционной системы, тип браузера, сведения о местоположении, источник, откуда пришел на сайт пользователь, с какого сайта или по какой рекламе, какие страницы
открывает и на какие страницы нажимает пользователь) в целях функционирования сайта, проведения статистических исследований и обзоров. Если вы не хотите, чтобы ваши данные обрабатывались, покиньте сайт.