# Microsoft предварительно обучает модель MAI-Base-2 MoE Foundation на 2,8 триллиона параметров

Source: TechNewsList (https://technewslist.com)
Canonical URL: https://technewslist.com/ru/article/microsoft-pre-trains-mai-base-2-mixture-of-experts-model-2026-10-22-night-ru
Section: AI (https://technewslist.com/ru/ai)
Author: TechNewsList
Language: ru
Published: 2026-10-22T18:15:41.688+00:00
Updated: 2026-10-22T18:15:41.906215+00:00

> Microsoft AI достигает важной вехи с MAI-Base-2, разреженной архитектурой Mixture-of-Experts, активирующей 80 миллиардов параметров на каждый токен для поддержки второго пилота следующего поколения.

## TL;DR
- Microsoft AI завершил предварительное обучение MAI-Base-2, разреженной базовой модели «Смесь экспертов», содержащей 2,8 триллиона общих параметров.
- Модель активирует только 80 миллиардов параметров за один проход, что значительно снижает затраты на вычисления, сохраняя при этом высочайшую плотность рассуждений.
- Предварительное обучение проводилось на суперкомпьютерных кластерах Azure с использованием ускорителей с жидкостным охлаждением и оптических фабрик с малой задержкой.
- Архитектура включает экспертную балансировку нагрузки без вспомогательных потерь, распределенную связь FP8 и контекстные окна на 512 000 токенов.
- MAI-Base-2 будет служить когнитивной основой для корпоративных конечных точек Copilot нового поколения в Microsoft 365 и Azure.

## Key points
- Microsoft AI завершил предварительное обучение MAI-Base-2, разреженной базовой модели «Смесь экспертов», содержащей 2,8 триллиона общих параметров.
- Модель активирует только 80 миллиардов параметров за один проход, что значительно снижает затраты на вычисления, сохраняя при этом высочайшую плотность рассуждений.
- Предварительное обучение проводилось на суперкомпьютерных кластерах Azure с использованием ускорителей с жидкостным охлаждением и оптических фабрик с малой задержкой.
- Архитектура включает экспертную балансировку нагрузки без вспомогательных потерь, распределенную связь FP8 и контекстные окна на 512 000 токенов.
- MAI-Base-2 будет служить когнитивной основой для корпоративных конечных точек Copilot нового поколения в Microsoft 365 и Azure.

## Что произошло

Microsoft AI сегодня официально объявил, что завершил предварительное обучение MAI-Base-2, обширной базовой модели с 2,8 триллионами общих параметров, построенной на разреженной архитектуре Mixture-of-Experts (MoE). Эта веха представляет собой самую амбициозную на сегодняшний день инициативу модели внутреннего фундамента технологического гиганта из Редмонда, разработанную под руководством исследовательского подразделения Microsoft AI для создания независимой когнитивной инфраструктуры в глобальной облачной экосистеме Azure. Активируя только 80 миллиардов параметров во время любого прямого прохода токена, MAI-Base-2 достигает плотности рассуждений высочайшего класса, одновременно сокращая вычислительные накладные расходы, традиционно необходимые для обслуживания нейронных сетей с триллионом параметров.

Завершение предварительного обучения знаменует собой поворотный момент в всеобъемлющей стратегии Microsoft в области искусственного интеллекта. В то время как корпорация поддерживает тесные партнерские отношения по распространению корпоративных моделей с передовыми создателями моделей в Model Garden, MAI-Base-2 предоставляет Microsoft специализированную вертикально интегрированную интеллектуальную собственность моделей, разработанную специально для высокопроизводительных корпоративных рабочих нагрузок Copilot. Модель была полностью обучена на высокопроизводительных суперкомпьютерных кластерах искусственного интеллекта Azure, использующих десятки тысяч ускорителей с жидкостным охлаждением, соединенных между собой оптическими матрицами с малой задержкой.

## Почему это важно

Экономика обслуживания гипермасштабного искусственного интеллекта стала определяющей операционной задачей для глобальных поставщиков облачных услуг. Модели с плотной основой, в которых каждый параметр рассчитывается для каждого сгенерированного токена, требуют ошеломляющих тепловых, энергетических и финансовых затрат во время непрерывного вывода данных предприятия. Переходя к модульной конструкции «Смесь экспертов» с беспрецедентным масштабом в 2,8 триллиона параметров, Microsoft отделяет общую емкость модели от затрат на вывод по каждому токену.

![Wikimedia Commons / Суперкомпьютер BSC-MareNostrum4-B](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1792691492492-9fnm8m-microsoft-pre-trains-mai-base-2-mixture-of-experts-model-2026-10-22-night-inside-1-2693f1476f.webp)

Этот архитектурный скачок позволяет корпоративным клиентам выполнять сложные многоэтапные рассуждения, доказательства математических теорем и автоматическую генерацию кода с задержкой и структурой цен, сопоставимыми с гораздо меньшими компактными моделями. Более того, наличие встроенного контроля над базовыми весами позволяет Microsoft глубоко оптимизировать структуру памяти, ядра квантования и пути спекулятивного декодирования, адаптированные специально для пользовательских ускорителей Azure Maia и коммерческих экземпляров графического процессора.

## Технические детали

Техническая архитектура MAI-Base-2 основана на динамической маршрутизации через обширный банк специализированных экспертных подсетей. Во время генерации токенов изученные уровни маршрутизатора оценивают входящие контекстные внедрения и направляют векторы активации исключительно в две лучшие экспертные сети, наиболее подходящие для этой конкретной когнитивной области. Этот разреженный механизм маршрутизации гарантирует, что, несмотря на огромную общую емкость параметров в 2,8 триллиона параметров, активный вычислительный объем каждого токена остается ограниченным 80 миллиардами параметров.

Исследователи Microsoft AI представили несколько революционных механизмов стабильности, позволяющих преодолеть пресловутую нестабильность обучения, связанную с массивными архитектурами MoE. Эти инновации включают в себя алгоритмы балансировки нагрузки без вспомогательных потерь, которые предотвращают схлопывание или насыщение отдельных экспертов, а также уровни распределенных коммуникаций смешанной точности FP8, которые максимизируют количество операций с плавающей запятой в секунду (FLOP) в кластере Azure. Набор данных для предварительного обучения включал в себя многоязычные текстовые корпуса, научную литературу высокой плотности, математические доказательства и следы синтетических рассуждений на общую сумму более двадцати триллионов токенов.

Для поддержки сложных корпоративных рассуждений с несколькими документами MAI-Base-2 изначально поддерживает расширенные контекстные окна, охватывающие до 512 000 токенов с линейным масштабированием внимания. Эта возможность позволяет корпоративным аналитикам получать полную нормативную документацию, полные репозитории программного обеспечения и обширные финансовые реестры, не жертвуя семантической полнотой или точностью «иголки в стоге сена».

![Wikimedia Commons / Тайваньский суперкомпьютер 3](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1792691495620-3rqvot-microsoft-pre-trains-mai-base-2-mixture-of-experts-model-2026-10-22-night-inside-2-7e5cba6f6a.webp)

## Влияние на рынок и отрасль

Появление MAI-Base-2 существенно меняет динамику конкуренции в сфере гипермасштабных облачных вычислений. Поскольку предприятия все чаще используют непрерывные фоновые агенты и помощников по поиску в масштабах всего предприятия, стоимость успешного выполнения задачи стала решающим коммерческим показателем. Способность Microsoft предлагать суверенные базовые модели с чрезвычайной эффективностью операций на флопах оказывает прямое давление на конкурирующие облачные экосистемы и сторонних поставщиков передовых API.

Отраслевые аналитики подчеркивают, что запатентованные базовые модели предоставляют Microsoft решающие рычаги влияния на переговорах и устойчивость цепочки поставок. Используя внутреннюю архитектуру с 2,8 триллиона параметров, способную соответствовать или превосходить коммерческие стандарты по стандартным академическим тестам, Microsoft изолирует свой основной пакет программного обеспечения для повышения производительности, включая Microsoft 365 Copilot, GitHub Copilot и Azure Cognitive Services, от изменений цен внешних поставщиков моделей или узких мест в доступности.

## За чем следить дальше

После успешного завершения базовой предварительной подготовки Microsoft AI вступает в фазу постобучения и настройки. В следующем квартале команды инженеров будут применять многоэтапное обучение с подкреплением на основе обратной связи между людьми и алгоритмами (RLHF/RLAIF) для согласования базовых весов с точки зрения безопасности, следования инструкциям и использования корпоративных агентских инструментов. За ними последуют специализированные контрольно-пропускные пункты, прошедшие обучение и настроенные для синтеза кода, медицинской аналитики и киберзащиты.

Руководители корпоративных технологий будут внимательно следить за первоначальным развертыванием MAI-Base-2 в коммерческих регионах Azure, запланированным на начало 2027 года. Ключевые технические показатели, за которыми следует следить, включают фактическую задержку производства при высокой одновременной нагрузке пользователей, реальные затраты на обслуживание токенов по сравнению с существующими плотными моделями и отзывы разработчиков относительно тонкой настройки эффективности. Поскольку разреженные базовые модели укрепляют свою роль в производственных вычислениях, MAI-Base-2 представляет собой монументальное испытание того, могут ли экстремальный архитектурный масштаб и экстремальная эффективность вывода успешно сочетаться.

## Источники

- [Блог исследований Microsoft](https://blogs.microsoft.com/ai/2026/10/pre-training-mai-base-2-mixture-of-experts/): Официальный технический брифинг с подробным описанием архитектуры MAI-Base-2, механизмов разреженной маршрутизации и основных этапов развития суперкомпьютеров Azure.
- [Грань ИИ](https://www.theverge.com/2026/10/22/microsoft-ai-mai-base-2-trillion-parameter-moe/): отчеты о стратегии внутренней базовой модели Microsoft, масштабировании вычислительного кластера и будущей интеграции Copilot.
- [VentureBeat Корпоративный ИИ](https://venturebeat.com/ai/2026/10/22/microsoft-mai-base-2-supercomputing-azure-cluster/): Технический анализ, сравнивающий эффективность MAI-Base-2 FLOP с передовыми моделями с высокой плотностью и скудными базовыми показателями в отрасли.

Mentions: Microsoft AI, Satya Nadella, MAI-Base-2, Azure

## Sources
- [Блог исследований Microsoft](https://blogs.microsoft.com/ai/2026/10/pre-training-mai-base-2-mixture-of-experts/)
- [Грань ИИ](https://www.theverge.com/2026/10/22/microsoft-ai-mai-base-2-trillion-parameter-moe/)
- [VentureBeat Корпоративный ИИ](https://venturebeat.com/ai/2026/10/22/microsoft-mai-base-2-supercomputing-azure-cluster/)