Команда «Сбера» выпустила в открытый доступ библиотеку SIRIN (Semantic Inconsistency Recognition and Inspection Nexus – «Обнаружение и анализ семантических несоответствий»), которая позволяет сделать ИИ-агентов и языковые модели более надежными. Об этом редакции IT Speaker сообщили в компании. Библиотека доступна для использования всем желающим в их проектах.
Благодаря SIRIN в ответах ИИ и языковых моделей можно выявлять вымышленные или неподтвержденные исходными данными факты. Для этого применяются различные методы проверки, которые разработчики могут сравнивать, выбирать или комбинировать. Проверить можно как весь текст, так и его отдельные части.
Кроме того, SIRIN может заранее оценить, достаточно ли информации у ИИ-агента для предоставления ответа, что позволяет предотвратить ошибку до ее возникновения. Для разработки библиотеки «Сбер» применил свои исследования в области детекции галлюцинаций. Также были созданы специальные метамодели, которые используют всего 250 примеров для обучения, при этом увеличивая точность выявления ошибок почти на 30%.
«Для повышения надежности работы моделей мы представили библиотеку SIRIN, которая анализирует обоснованность их ответов. Этот подход уже продемонстрировал свою эффективность внутри компании в сервисах для работы с клиентами. Мы решили открыть SIRIN для всех компаний, чтобы способствовать развитию рынка», – отметил старший управляющий директор, директор по ИИ-трансформации «Сбербанка» Сергей Рябов.
Он также добавил, что любой разработчик сможет интегрировать SIRIN в своего ассистента за считанные секунды. Этот инструмент полезен для бизнеса, который внедряет крупные языковые модели и хочет контролировать качество взаимодействия с пользователями, а также для разработчиков ИИ-ассистентов, RAG-систем и ИИ-агентов.
Ранее было сообщено, что в 2025 году «Сбербанк» внедрил более 700 ИИ-инициатив и свыше 900 автономных агентов. Это принесло финансовый эффект более 475 миллиардов рублей, включая свыше 50 миллиардов рублей от применения генеративного ИИ.
ИТ-холдинг Т1 дал прогнозы на весь 2026 год
