Контактные центры российских организаций и государственных учреждений будут обязаны информировать собеседников о том, что они общаются с искусственным интеллектом. Это правило относится как к телефонным звонкам, так и к переписке в интернете. Соответствующая информация стала известна из законопроекта «О регулировании систем искусственного интеллекта», пишут «Известия».
В данном документе указано, что клиенту должна быть предоставлена возможность общения с живым консультантом, однако, если диалог происходит через чат-бот, то должно быть соответствующее уведомление о роботизированных ответах и сообщениях. Для этого планируется установить порядок подачи жалоб и обращений в организации, использующие ИИ.
«На сегодняшний день ИИ активно применяется в колл-центрах, чат-ботах и службах поддержки, но далеко не всегда пользователи понимают, что общаются не с человеком. В условиях, когда технологии становятся всё более правдоподобными, вопрос о честном уведомлении выходит на первый план – как с этической, так и с правовой точки зрения», – прокомментировал член комитета Госдумы по информационной политике, информационным технологиям и связи Антон Немкин.
По мнению Немкина, такая маркировка ИИ-собеседника поможет снизить риски манипуляций. Это особенно актуально в сфере финансового консультирования, обслуживания уязвимых групп граждан или предоставления медицинской информации.
Таким образом, будет улучшена борьба с мошенничеством. Это связано с тем, что зачастую под видом ИИ-сервисов могут действовать злоумышленники, стремящиеся ввести человека в заблуждение, узнать его личные данные или осуществить фишинговую атаку.
Отмечается, что клиент контакт-центра должен быть осведомлён о том, когда он получает автоматизированный ответ, чтобы адекватно оценивать его значимость, точность и возможные ограничения. Кроме того, возможность переключения на «живого» специалиста по запросу повышает контроль со стороны клиента и снижает риск недопонимания, добавил депутат.
Ранее стало известно, что компании будут обязаны отказаться от спам-звонков в связи с поступлением исков о возмещении морального вреда от пользователей. Бизнесу придется использовать текстовые сообщения в мессенджерах.
МТС представил приложение для безопасной связи
