«Яндекс» представил свою языковую модель Alice AI Search Pretrain, обученную с нуля, в открытом доступе. Благодаря своей архитектуре, она обеспечивает мгновенные и лаконичные ответы, а также эффективно обрабатывает значительный объем запросов. Модель доступна на платформе Hugging Face. Об этом сообщили представители «Яндекса» на IT Speaker.
Alice AI Search Pretrain – это компактная языковая модель, способная обрабатывать значительные объемы документов, выдерживать высокие нагрузки и не требующая мощных вычислительных ресурсов.
Модель основана на гибридной архитектуре, которая сочетает две технологии:
-
«Энкодер-декодер» (Encoder-Decoder) – обеспечивает краткие и четкие ответы, так как одна часть модели анализирует и выбирает информацию, а другая генерирует ответ;
-
MoE (Mixture of Experts) – ускоряет работу модели и оптимизирует использование вычислительных мощностей. Вместо активации всей нейросети, MoE активирует только ту часть «мозга», которая наиболее компетентна в данной теме.
По качеству ответов Alice AI Search Pretrain превосходит компактные языковые модели в задачах, связанных с русским языком. Для того чтобы Alice AI Search предоставляла краткие и понятные ответы, разработчики собрали пользовательские сигналы и обучили модель на реальных примерах взаимодействия пользователей с поиском. Ответы модели отображаются прямо под строкой поиска и способствуют быстрому пониманию темы.
Ранее «Сбер» представил GigaChat 3.5 Reasoning – продвинутую мультимодальную нейросеть с режимом рассуждений. Она разбивает задачу на этапы, разрабатывает план, при необходимости обращается к поиску и другим инструментам, выявляет ошибки в промежуточных результатах и только после этого формирует ответ. GigaChat 3.5 Reasoning позволяет решать задачи с меньшими затратами ресурсов, экономя токены на рассуждение.
«Алиса AI» может получить расширенные возможности
