Gemma 3 270M — новая сверхкомпактная ИИ-модель от Google
Введение
Линейка ИИ-моделей Gemma 3 пополнилась версией Gemma 3 270M, созданной для локального развертывания на слабых устройствах и эффективного выполнения повседневных задач. Несмотря на скромный размер в 270 миллионов параметров, модель демонстрирует точное исполнение инструкций и отлично подходит для дообучения под специфичные операции.
Подробнее о Gemma 3 270M
Помимо наличия 270 миллионов параметров, модель Gemma 3 270M имеет большое контекстное окно в 256 тысяч токенов, что позволяет нейросети свободно исполнять даже сложные, емкие пользовательские запросы. Кроме того, Gemma 3 270M обеспечивает высокую производительность и энергоэффективность, например, при работе в режиме INT4 на смартфоне Pixel 9 Pro нейросеть смогла обработать около 25 диалоговых взаимодействий, потратив всего 1% заряда батареи. Пользователям доступны как предобученные версии Gemma 3 270M, так и модель под тонкую инструкционную настройку. Для оптимизации ресурсопотребления предоставляются чекпоинты INT4, значительно снижающие требования к вычислительным мощностям без существенной потери качества работы модели. Области применения Gemma 3 270M охватывают классификацию и анализ текстов, интеллектуальную маршрутизацию запросов, структурирование информации, автоматизированную проверку на соответствие требованиям, а также офлайн-генерацию контента. Gemma 3 270M имеет открытый исходный код и воспользоваться возможностями этой передовой ИИ-модели может каждый юзер, скачав ее через платформу Hugging Face, Kaggle, Ollama и Google Vertex AI. Компания Google также наглядно продемонстрировала пример практического применения Google Vertex AI, создав легковесный браузерный генератор историй, построенный на базе библиотеки Transformer.js.
Выводы
Выпуск Gemma 3 270M свидетельствует о том, что тренд на локальный запуск ИИ продолжается и индустрия все ближе и ближе подбирается к тому этапу, когда мощные, но компактные нейросети повсеместно будут внедряться в мобильные устройства, такие как смартфоны и планшеты. Конечно, на данном этапе не получится локально запустить модели семейства GPT или DeepSeek, однако с учетом регулярного выхода сверхкомпактных моделей и новых методов сжатия моделей, не исключено, что уже в ближайшем будущем даже топовые ИИ будут помещаться даже в слабых смартфонах.
