За прошедший год риски, связанные с внедрением ИИ, поднялись с 10-го на 2-е место в списке глобальных бизнес-угроз. На первом месте находятся киберпреступления, однако, в отличие от рисков ИИ, киберугрозам специалисты уже готовы, и они застрахованы большинством крупных международных страховщиков.
Как сообщает AdIndex, ссылаясь на исследование A2Tech, 32% из 3,4 тыс. опрошенных бизнесменов и страховых брокеров из 97 стран назвали ИИ угрозой для бизнеса в ходе исследования Allianz Risk Barometer 2026. Респонденты подчеркнули, что страховщики начинают работать над уменьшением разрыва в новых технологических рисках, связанных с ИИ.
Как пояснил IT Speaker директор по развитию интеграционных и инфраструктурных решений «ЕМДЕВ» (EmDev) Андрей Филиппов, наибольший риск заключается не в самом ИИ, а в негативных последствиях его использования: ошибочных решениях, утечках данных, нарушении законодательных норм, ущербе клиентам и репутации.
«С ростом внедрения ИИ он становится частью клиентского сервиса, документооборота, внутренних баз знаний, аналитики, контроля качества и других процессов. Некоторые из этих процессов критически важны для повседневной работы и выполнения обязательств перед клиентами. Поэтому бизнес стремится найти баланс между доступом к новым технологиям и устойчивостью всей системы: стабильностью сервиса, контролем над данными, возможностью смены поставщика и наличием резервных процессов. С точки зрения страхования наиболее практичные измеримые сценарии – это сбой в ИИ-сервисе, утечка данных, ошибочные действия системы, затраты на восстановление или срочную миграцию, а также ущерб клиентам и третьим лицам», – поделился с редакцией IT Speaker Алексей Сергеев, руководитель практики машинного обучения и искусственного интеллекта Axenix, о том, какие ИИ-риски вызывают наибольшее беспокойство у компаний и какие сценарии они страхуют в первую очередь.
Филиппов добавил, что в первую очередь стоит страховать сценарии, где действия ИИ могут привести к немедленному финансовому ущербу. Например, это автоматизированные решения, обработка чувствительных данных и критически важные для бизнеса процессы.
«Страхование традиционно основывается на накопленной статистике, а по использованию ИИ ее пока крайне мало. Страховщикам сложно оценить вероятность сбоя модели и какие убытки он может вызвать. <…> В то же время за год ИИ-риски поднялись в рейтинге угроз на восемь позиций. Это означает, что спрос на защиту может возникнуть раньше, чем страховщики соберут достаточное количество данных. Компании, которые первыми научатся работать с такими рисками, получат значительное преимущество на пока что практически незанятом рынке», – сообщила соосновательница A2Tech Анна Агальцова.
По словам Андрея Филиппова, оценивать и страховать ИИ-риски сложнее, чем традиционные киберриски, так как последние уже имеют историю происшествий, типовые сценарии атак и статистику ущерба, тогда как база для ИИ только формируется. Кроме того, даже одна ошибка может затронуть множество процессов. Также сложно заранее определить, кто будет нести ответственность за ущерб – разработчик, поставщик данных или сама компания.
«Прецедентов пока немного, а сами системы развиваются быстрее, чем накапливается статистика. Еще недавно стандартным решением был чат с языковой моделью и поиск по базе знаний. Сейчас компании внедряют агентские системы, которые строят планы, обращаются к внешним инструментам, оценивают промежуточные результаты и меняют подходы к решению задач. У таких систем выше уровень автономности и больше потенциальных сценариев поведения. Ошибка может произойти в модели, данных, RAG-механизме, логике агента, правах доступа, интеграции или действиях сотрудников. Один сбой может привести к неверному ответу или запустить цепочку действий в нескольких корпоративных системах. Поэтому прошлые инциденты быстро теряют статистическую ценность, а выяснить причину и возможный размер ущерба заранее сложно», – прокомментировал Сергеев.
Сергеев добавил, что в настоящее время ИИ во многих компаниях представлен как набор отдельных пилотов, моделей и агентов. С увеличением масштабов он будет превращаться в самостоятельный операционный слой в рамках предприятия. Возникнет отдельная дисциплина управления агентами, и ИИ-системы станут еще одним участником бизнес-процесса. Эксперт отметил, что в России на данный момент отсутствует единый полис, который бы покрывал все ИИ-риски. Большая часть потенциальных последствий уже известна страховому рынку, однако агентские системы могут изменить масштаб и динамику таких событий за счет более высокого уровня автономности, что представляет собой вызов для страховщиков.
Филиппов указал, что текущие полисы покрывают лишь основные угрозы, зачастую выступая лишь дополнением к страховке от кибератак. Для получения защиты бизнесу следует избегать использования открытых публичных нейросетей, строго контролировать применяемые ИИ-системы, учитывать их критичность для бизнес-процессов, организовать контроль данных, прав доступа, документирование обучения и обязательные проверки результатов работы нейросетей сотрудниками.
«Как разработчики, мы рекомендуем применять нейросети во внутреннем контуре или обращаться к сервисам, которые предоставляют доступ к специально обученным LLM, гарантируя отсутствие внедрения вредоносных инъекций и утечек данных. Для подготовки к страхованию целесообразным шагом станет создание “белого контура” ИИ, когда сотрудники используют привычные инструменты не напрямую через внешние сайты, а через внутренние сервисы, построенные на интеграционной шине, например, “Энтакси”. Это повысит прозрачность процессов, контроль над данными и качество материалов для оценки рисков страховщиком», – добавил Филиппов.
Ранее компания Security Vision провела исследование, выяснив, как россияне воспринимают киберриски и какие меры безопасности используют в своей повседневной жизни. Результаты показали, что граждане осознают угрозы, однако защитные привычки часто отходят на второй план ради удобства. Об этом редакции IT Speaker сообщили в компании. В исследовании приняли участие 802 жителя России в возрасте от 14 лет.
Коммерческая тайна без грифа: 78% компаний рискуют в судах
