Yandex выпустила AliceAI-Foundation-80B-A3B-Base — открытая базовая LLM с 80 млрд параметров
Введение
Компания Яндекс открыла веса AliceAI-Foundation-80B-A3B-Base — базовой модели семейства языковых моделей AliceAI. Это фундамента ментальная модель, на основе которого компания и сторонние разработчики могут создавать инструктивные и диалоговые версии LLM под свои конкретные задачи. Модель обучена с нуля, содержит 80 миллиардов параметров и поддерживает контекст до 262 тысяч токенов. AliceAI-Foundation-80B-A3B-Base особенно сильна в задачах на русском языке, где она обходит более крупные открытые аналоги, а также показывает достойные результаты в математике и программировании.
Подробнее о AliceAI-Foundation-80B-A3B-Base
Модель AliceAI-Foundation-80B-A3B-Base имеет 80 миллиардов параметров общих и только 3 миллиарда активных параметров, что упрощает инференс и делает расход памяти при локальном развертывании более экономичным, несмотря на большой объем весов. Контекстное окно модели достигает 262 144 токенов, что позволяет работать с длинными документами и большими объемами данных в рамках одного запроса.
Архитектура AliceAI-Foundation-80B-A3B-Base гибридная: 48 слоев, используются механизмы KDA, Gated Attention и MoE. В каждом MoE-слое 512 экспертов, из которых для каждого токена выбираются 10 плюс один общий. При создании модели разработчики заново собрали обучающий корпус и выбрали гиперпараметры, а ключевые решения проверяли в серии обучений с нуля объемом по 2 триллиона токенов каждое. Отдельно подготовили данные для сложных рассуждений и взаимодействия с инструментами. Это позволило подготовить модель не только под типичные ИИ-задачи, но и улучшить ее агентные способности вместе с логическим рассуждением.
Результаты на бенчмарках показывают, что модель AliceAI-Foundation-80B-A3B-Base уверенно обходит более крупные открытые аналоги в русскоязычных задачах. В фактологическом тесте WikiWebFacts она набирает 86,5 против 62,4 у Qwen3.5-35B-A3B-Base и 70,2 у GLM-4.5-Air-Base. В HardMultiQA результат 67,9 против 47,2 и 48,6 соответственно. В CultCat — 86,5 против 59,2 и 59,1. Даже против DeepSeek-V4-Flash-Base, у которой 284 миллиарда параметров, модель держится впереди: 86,5 против 83,2 в WikiWebFacts и 86,5 против 80,7 в CultCat.
В образовательных задачах разрыв еще заметнее. EduBench Russian — 74,2 против 42,9 у Qwen и 39,0 у GLM. EduBench History — 82,0 против 65,9 и 62,8. EduBench Literature — 73,8 против 51,8 и 51,4. В математике MATH-500 результат 91,1 против 81,9 у Qwen и 60,2 у GLM. EduBench Math University — 70,1 против 69,9 и 51,4. В сложных рассуждениях AIME 2026 модель делит первое место с Qwen — по 96,7, а в HMMT 2026 обходит ее: 96,9 против 87,9. В программировании LiveCodeBench v5-6 — 60,4 против 51,9 у Qwen и 34,7 у Nemotron.
Выводы
AliceAI-Foundation-80B-A3B-Base вполне можно назвать важным апдейтом в сегменте отечественных открытых ИИ-моделей — LLM, которая значительно меньше открытых аналогов по параметрам, уверенно обходит их как в специфических задачах, вроде работы с русским языком, так и более общих сценариях, вроде программирования и математики. Конечно, Yandex не приводила сравнения с более актуальными версиями тех же семейств LLM, но тот разрыв, продемонстрированный AliceAI-Foundation-80B-A3B-Base, уже позволяет использовать новую российскую модель в практических сценариях, особенно в задачах с длинным контекстом за счет внушительного окна в 262 тысячи токенов. Открытые веса AliceAI-Foundation-80B-A3B-Base доступны на Hugging Face.
