Meta* представила Muse Glimmer — мультимодальную модель с открытыми весами для локальных ИИ-агентов. Она предназначена для многопроцессных задач: взаимодействия с инструментами, файлами, изображениями и обработкой длинного контекста.
Muse Glimmer — компактная модель, содержащая около 30 миллиардов параметров, с контекстным окном более 131 тысячи токенов. Веса распространяются под лицензией Apache 2.0. Дополнительные сведения можно найти в материале Postium.
Читайте также: Как скачать и установить Codex на ПК
Нейросеть Muse Glimmer: возможности и принцип работы
Muse Glimmer была дистиллирована из Muse Spark. Модель способна осуществлять многошаговые рассуждения, вызывать инструменты и функции, а также работать с кодом и изображениями.
Muse Glimmer может быть запущена на собственном оборудовании без необходимости обращения к внешнему API. Согласно информации от NVIDIA, для запуска достаточно одной совместимой видеокарты. В перечне поддерживаемых платформ находятся GeForce RTX 5090, DGX Spark, DGX Station и Jetson.
Muse Glimmer использует плотную архитектуру: при обработке каждого токена задействованы все параметры языковой части модели. В Mixture of Experts для каждого запроса активируется только часть «экспертов».
Для локального использования доступны также квантованные версии. Версия на примерно 17 ГБ подходит для систем с 24 ГБ памяти, а более качественный вариант требует около 32 ГБ.
AMD протестировала Muse Glimmer в llama.cpp на Windows. В рамках её тестирования модель демонстрировала скорость до 24 токенов в секунду на Ryzen AI Max+ 395 и до 53 токенов в секунду на Radeon AI PRO R9700 с dFlash. Эти результаты являются предварительными и относятся к конкретным конфигурациям, а не являются универсальными требованиями к оборудованию.
Как использовать Muse Glimmer
Веса Muse Glimmer доступны на Hugging Face. Для запуска подходят llama.cpp, Transformers, SGLang и vLLM. NVIDIA также предлагает контейнер NIM.
На поддерживаемых системах AMD предполагает запуск через LM Studio. Другой вариант — использование llama.cpp и локальных серверов, совместимых с OpenAI API.
Что это меняет? Muse Glimmer можно развернуть на собственном компьютере или в локальной инфраструктуре. При полном локальном запуске данные и контекст задачи не передаются во внешний облачный сервис. Для работы требуется соответствующее оборудование и среда запуска.
Итог: Muse Glimmer — открытая 30-миллиардная модель Meta* для локального развертывания ИИ-агентов.
*Meta — признана экстремистской организацией и запрещена в РФ.
