ChatGPT способен сохранять в персонализированную память ИИ личную информацию, которой пользователи делиться с нейросетью. Об этом рассказали в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД РФ.
Нередко во время работы с нейросетью люди делятся личными переживаниями, служебными документам и другой личной информацией. В рамках исследования The Algorithmic Self-Portrait было выяснено, что несмотря на политику конфиденциальных данных компания OpenAI все равно сохраняла данные пользователей, а затем на их основе формировала цифровой портрет человека.
Также было выявлено, что в почти 96% случаях пользователи не давали согласие и не знали о создании профиля, 91% пользователей предоставили ИИ реальные данные, которые содержат реальные имена, экономический и социальный статус, а также адреса. В 97% учетных записей сохранены сведения о целях, намерениях, предпочтениях и особенностях поведения, а в 54% – информация о здоровье и личных убеждениях пользователя.
«С точки зрения безопасности накопление персональных данных в памяти ChatGPT создает потенциальные риски идентификации пользователей, даже использующих псевдонимы. Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье», – сказали в ведомстве.
Чтобы обезопасить себя в ведомстве рекомендуют контролироваться настройки памяти и персонализации ИИ-сервисов, не загружать в нейросеть конфиденциальную информацию и служебные документы, обезличивать запросы и не использовать реальные имена, адреса и другие данные, а также при обсуждении личных вопросов использовать временные чаты.
Ранее злоумышленники начали распространять вредоносные программы, маскируя их под дополнения для ИИ-систем, которые якобы должны помочь нейросетям в работе с документами, почтой или соцсетями.
ИИ научили лучше распознавать дипфейки мошенников
