В сети активно распространяются вредоносные версии популярных чат-ботов, таких как ChatGPT, DeepSeek и Google Gemini. Одним из распространенных методов продвижения программ-стилеров стало создание приложений, которые маскируются под известные сервисы. Злоумышленники часто разрабатывают опасные клоны приложений государственных учреждений и банков, копируя их дизайн и функционал, например, сервиса «Госуслуги».
«Часто стилеры распространяются через фишинг-электронные письма с вложениями или ссылками на вредоносные файлы. Тем не менее, злоумышленники также используют технологии ИИ для того, чтобы сделать письма более убедительными и незаметными для служб безопасности», – сообщила ИТ-эксперт Людмила Богатырева.
Мошенники также создают поддельные сайты, которые копируют DeepSeek. Один из таких сайтов, по словам старшего контент-аналитика «Лаборатории Касперского» Ольги Свистуновой, имитирует страницу авторизации в нейросети. При этом количество кибератак с использованием стилеров увеличилось на 54% в 2024 году по сравнению с 2023 годом и на 156% по сравнению с 2022 годом, сообщили в компании «Информзащита». В 2022 году было зафиксировано 240 тыс. атак, а к 2024 году это число возросло до 750 тыс.
Ранее китайский чат-бот DeepSeek вызывал опасения из-за вопросов безопасности. Исследователи Cisco обнаружили, что ИИ-модель легко предоставляет опасную информацию.
Специалисты провели тестирование нейросети DeepSeek R1, используя алгоритмические техники джейлбрейкинга (разблокировки нештатных возможностей) на основе 50 случайных запросов из набора данных HarmBench. Запросы исследователей касались шести категорий вредоносного поведения, таких как киберпреступность, дезинформация, незаконная деятельность и общий вред.
В открытый доступ попала база данных DeepSeek
