Microsoft развивает модели MAI и ускоритель Maia 300
Microsoft развивает модели MAI и Maia 300, делая акцент на стоимости инференса. MAI-Thinking-1 можно развернуть в Foundry в статусе preview; Maia 300 предназначена для облачных ИИ-нагрузок.
Microsoft развивает собственные фундаментальные модели под маркой MAI и ускоритель Maia 300 для инференса — выполнения запросов к обученным моделям. В обзоре InfoWorld от 12 ноября развитие этих продуктов связывают со стремлением снизить стоимость обработки токенов за счёт моделей и специализированной инфраструктуры.
По данным InfoWorld, модели MAI ориентированы на разные задачи, в том числе кибербезопасность, программирование и транскрибацию. Издание отмечает, что по охвату они уступают популярным универсальным системам. В Microsoft Foundry, согласно сайту компании, представлено более 11 000 моделей разных разработчиков.
MAI-Thinking-1 в Microsoft Foundry
Microsoft описывает MAI-Thinking-1 как модель для задач с многошаговыми рассуждениями, включая математику, программирование и корпоративные сценарии. Её можно развернуть в Microsoft Foundry и вызывать через API чата, совместимый с шаблонами OpenAI SDK.
Модель находится в статусе предварительной версии. Microsoft предупреждает, что для неё не предусмотрено соглашение об уровне обслуживания и не рекомендует использовать её в производственных нагрузках. Условия и инструкции по работе с MAI-Thinking-1.
Архитектура Maia 300
Второе направление — ускоритель инференса Maia 300. Microsoft описывает его как часть системы, в которой совместно проектируются программное обеспечение, чипы, стойки, сеть и дата-центры. Архитектура рассчитана на облачные нагрузки с ИИ-агентами, а компания ставит целью повысить число полезных токенов на ватт и на доллар. Описание архитектуры Maia 300.