Американская компания OpenAI опубликовала заявление, в котором информировала о том, что ИИ-агенты компании пытались нарушить защиту более 100 организаций.
По словам OpenAI, компания уведомила соответствующие организации о выявленных случаях нежелательного поведения агентов. Специалисты выявили попытки моделей заставить сайты выполнять непредусмотренные команды, использовать ресурсы как платформу для обмена сообщениями и обходить определенные уровни проверок безопасности.
«Наши команды уведомили более 100 организаций о действиях, которые соответствуют нашим критериям для оповещения. Уведомление не означает, что был получен доступ к конфиденциальной информации или что имело место взлом какой-либо сторонней системы», – подчеркнули в OpenAI.
Компания сообщила, что может предоставить пострадавшим внешним организациям информацию, необходимую для расследования и устранения потенциальных проблем с безопасностью или других технических неполадок с целью повышения уровня защиты ИИ-технологий.
Раскрытие информации компанией OpenAI произошло после того, как независимые исследователи выявили ряд инцидентов в области кибербезопасности, связанных с несанкционированными агентами искусственного интеллекта.
Ранее премьер-министр Австралии Энтони Альбанезе заявил, что ИИ-агент компании OpenAI взломал сайт службы здравоохранения Medicare. Этот инцидент случился 18 июня, однако компания узнала об этом только в августе и сообщила властям 10 сентября.
Назови меня ИИ: идеальный нейминг для стартапа
