Российские эксперты разработали методику, позволяющую мониторить возникновение галлюцинаций в системах ИИ и выявлять такие сбои в их функционировании, используя при этом минимальное количество обучающих примеров. Новый подход увеличивает точность обнаружения галлюцинаций примерно на 30%.
«Мы продемонстрировали, что даже с ограниченным объемом данных можно достичь высокой точности в системах ИИ. Разработанный нами метод применяет метамодели и интеллектуальное снижение размерности – это значительный шаг вперед в выявлении галлюцинаций искусственного интеллекта. Мы не только улучшаем существующие технологии, но и уменьшаем риски дезинформации, что крайне важно для доверия к современным моделям», – заявил директор Центра практического искусственного интеллекта «Сбербанка» Глеб Гусев. Его слова были опубликованы ТАСС.
Ключевой проблемой в разработке ИИ-технологий, основанных на больших языковых моделях и других сложных нейросетях, является их способность генерировать правдоподобные, но ошибочные ответы. Для выявления таких «галлюцинаций» ученые создали несколько методик, но большинство из них требуют значительных объемов качественно размеченных данных для обучения.
Российские исследователи предложили более простой и удобный подход, который основывается на наборе алгоритмов, отслеживающих изменения в работе внутренних слоев системы ИИ в процессе генерации корректных ответов и галлюцинаций, а также на системах классификации, созданных на основе классических алгоритмов машинного обучения или высокоскоростной нейросети-трансформера TabPFNv2.
Ранее стало известно, что в Санкт-Петербурге ученые Лаборатории языковой конвергенции НИУ ВШЭ Анастасия Колмогорова и Елизавета Куликова разработали «словарь нового поколения», предназначенный для обучения ИИ. Он поможет нейросети распознавать человеческие эмоции.
В РФ создали ИИ-судью для гонок дронов
