OpenAI начинает маркировать тексты, сгенерированные ChatGPT и Codex, невидимыми водяными знаками — в ближайшие недели функция появится на всех тарифах в Евросоюзе. Причина — требования европейского закона об искусственном интеллекте (EU AI Acti), по которому AI-контент нужно помечать как сгенерированный.

Технология называется textGraini: это не метаданные, которые исчезают при копировании, а статистический сдвиг — модель слегка меняет вероятности выбора слов и их частей так, что человек не замечает подмены, а специальный детектор распознаёт характерный паттерн. Для разработчиков через API функцию уже можно включить добровольно по всему миру, а не только в ЕС. Ранее похожую маркировку ввели Google и Anthropic (Claude делает это для всех пользователей уже около двух месяцев).

• По подсчётам самой OpenAI, базовый детектор распознаёт 92% маркированных текстов; если заменить синонимами около 10% слов, точность падает до 66%
• При серьёзном редактировании, пересказе другой моделью, слишком коротком тексте или переводе маркировка практически теряет смысл
• По данным @ai_newz, водяной знак заметен с точностью около 80% только на текстах длиннее 200 токенов, плюс около 1% ложных срабатываний детектора
• Эффективность маркировки ниже на математике и коде — там меньше вариантов переформулировки
• Доступ к детектору textGrain OpenAI планирует давать только одобренным исследователям и профильным организациям, для массового пользователя он недоступен
• В странах за пределами ЕС OpenAI пока не планирует включать маркировку принудительно — только добровольная опция в API
• Пользователи уже выражали недовольство похожей мерой, когда маркировку около двух месяцев назад ввела Anthropic для Claude