С августа 2026 все новые нейросети должны маркировать результаты своей работы фирменным знаком "Нейрослоп".
Вы попалитесь!
Самое главное:
— Если вы попросите нейросеть отредактировать ваш текст, она вам налепит туда водяной знак нейрослопа. Но есть нюанс.
— Если вы написали реферат/курсовую/отчёт моделью — это будет хорошо видно сразу.
— Перефразирование другой моделью, перевод туда-обратно, обычная человеческая правка на достаточную глубину ослабляют защиту.
Это AI Act Евросоюза. Там
смысл такой, что если ваш текст, видео или картинку увидел гражданин Евросоюза, а маркировки нет, то компании штраф до 15 млн евро или 3% мирового оборота. С декабря 2026 маркировка обязательна для старых нейросетей, с августа — для всех выходящих новых.
Главный стандарт — Code of Practice on Transparency of AI-Generated Content. Сейчас его подписали примерно 190 компаний, там все основные платформы. Маркировка многослойная: метаданные + водяной знак + логирование.
В Китае есть похожий стандарт, и платформы (типа музыкальных сервисов или сайтов с картинками или видео про размножение человека) обязаны сами детектировать и доклеивать метки на загружаемый контент. В США похожий, но уже и для компаний от 1 миллиона пользователей в месяц.
В европейском стандарте незначительные изменения — грамматика, форматирование, апскейл, цветокоррекция могут не помечаться водяным знаком, а вот перевод, суммаризация, существенное семантическое изменение — должны. Но в практической реализации C2PA и в китайских стандартах такого нет вообще, помечается на практике всё. В Индии вообще критерий "Примут ли за настоящее", поэтому избыточность маркировок точно будет.
Звук детектится легче всего, потому что мы вообще-то не очень привередливые. Генерируется нам откровенное говно. Suno, Udio, MusicGen и т.п. не рисуют прямо волну, а собирают последовательность токенов и дальше кодируют. Транспонированные свёртки, Фурье и прочие умные слова — короче, швы между токенами (точнее, тем, что ими было) делает очень херовый сварщик. И закрашивать их можно только малярным валиком, а он больше, чем расстояние между швами. Поэтому по следам пьяного сварщика всегда видно нейросеть. Вот
работа. А вот тестовый
детектор.
На слух вы не отличите, из 9 тысяч человек 97% не справились.
Вся эта фигня переживает сжатие в MP3. Поверх этого сейчас
накатывают ещё и водяные знаки.
Операции, сдвигающие частоты (ресемплинг, питч-шифт) снижают качество детекции с 95+% до примерно 40%.
Картинки — там такой же механизм, только JPEG настолько отвратителен, что способен затмить даже пьяного сварщика. Поэтому качество детекции падает. Апсемплинг просто не умеет воспроизводить спектральное распределение естественных изображений.
Проблема в том, что артефакты в фурье-домене накапливаются в средне-высоких частотах, а их JPG выбрасывает нафиг первыми. Есть ещё 2 места с палевом, но если ресайз, плюс 2 сжатия (при сохранении и обычно при загрузке куда-то), 10 из 10 шакалов — то всё.
Поэтому картинки маркируют активно дополняя данными:
—
Stable Signature — переживает разрезание на 10 частей.
—
Tree-Ring — знак кладут в начальный шум диффузии.
В целом скриншот с сохранением в JPG снимает вопросы у большей части детекторов. Regeneration-атака
снимает минимум 93% знаков даже у самых стойких.
У видео сочетание двух предыдущих методов (звук + картинка) плюс динамические данные, часто спрятанные в волосах или небе.
Ещё сейчас делают камеры, которые маркируют
настоящий контент. Тоже подход.
Текст. Тут всё и просто, и сложно. Слово "жопа" от модели ничем не отличается от слова "жопа", написанного человеком, апскейла и деконволюции нет.
Пассивная детекция:
— По
перплексии, по слишком гладкому стилю. Так можно поймать и нейросеть, и тупого копирайтера, и бюрократа.
— Больше половины эссе TOEFL, написанных неносителями английского, детекторы
помечают как ИИ. В своё время отечественные нейросети тоже докопались до классики, если что. У Чехова уже был Fable, судя по всему.
То есть пассивная детекция отличает на редкость плохие тексты, но не обязательно от моделей.
Водяные знаки ставятся кодированием в
выборе слов, в
синонимах. Короче, в достаточно большой текст вплетается незаметный знак на уровне модели, он переносится при копировании и может пережить часть редактирования. Вот
пост, где больше деталей именно про тексты.
У кода синонимов почти нет, знак получается слабее и легко сносится форматтером или линтером.
Доказано, что при явно сформулированных естественных предположениях сильная маркировка
недостижима в принципе.
Что ломает детекцию? Ну,
парафраз. Прям возвращаемся в нулевые и вспоминаем попытки обмануть SEO-движки заменой синонимов ) Есть даже специальные плагины для снятия такой маркировки, но если вы их запускаете в том же Антропике, то их результат работы тоже должен быть маркирован.
Если вы очень сильно редактируете текст и он перестаёт быть похожим на нейрослоп — вероятно, следы водяного знака пропадут. Но если оставляете абзацы целыми — их будет видно.
И да, локальные модели обычно освобождены от таких недостатков. И достаточно лёгких для постобработки текста.
--
Вступайте в ряды Фурье! |
Лучшие посты
Если на кровати стоит сапог, то это непорядок! А вот если на каждой кровати по сапогу — это порядок и единообразие!
