OpenAI сообщила, что в течение ближайших недель начнет внедрять невидимые водяные знаки в текстовые ответы ChatGPT и Codex для пользователей из Евросоюза. Эта маркировка будет применяться ко всем тарифам с целью соблюдения требований европейского законодательства об ИИ — AI Act.
За пределами ЕС компания пока не намерена включать её по умолчанию. Разработчики, использующие API, уже имеют возможность активировать водяные знаки для поддерживаемых моделей в любой стране. Подробности можно найти в материале Postium.
Читайте также: Как заставить ИИ писать как человек
Как функционируют водяные знаки в ChatGPT
Технология OpenAI называется textGrain. В процессе генерации она незначительно изменяет выбор слов и их частей. В результате в тексте формируется статистический рисунок, который может быть обнаружен специальным детектором.
Читатель не видит метку: система не добавляет скрытые символы, невидимые пробелы или необычную пунктуацию. Обычное копирование текста и очистка форматирования сохраняют водяной знак.
Метка указывает, что текст мог быть сгенерирован или обработан моделью OpenAI. Она не раскрывает аккаунт, запрос или переписку пользователя и не показывает объем работы, выполненной человеком.
Насколько точна проверка? Детектор более эффективно распознаёт длинные тексты, в которых модель свободно выбирает формулировки. В тестах OpenAI на темах, таких как психология, он обнаруживал метку примерно в 80% фрагментов длиной 200 токенов и в 95% фрагментов длиной 400 токенов — при заданной доле ложных срабатываний 1%. Для математических ответов результаты были значительно ниже.
Редактирование ослабляет водяной знак. В отдельном тесте англоязычных фрагментов длиной 400 токенов замена 10% слов синонимами снизила долю обнаруженных меток примерно с 92% до 66%, а замена 25% — до 17%. Однако такая замена не гарантирует полного удаления метки.
Ранее водяные знаки в ответы начала добавлять Claude от Anthropic. У неё маркировка применяется по всему миру, включая приложение, API и Claude Code. Детектор Claude доступен ограниченному кругу организаций.
