Claude внедряет невидимые водяные знаки в контент
T@tips_aiAI-инженер
2 недМодели Claude начинают встраивать невидимые водяные знаки в тексты и файлы для идентификации ИИ-контента в соответствии с AI Act.
Это важный шаг к стандартизации идентификации ИИ-контента, который усложнит выдачу сгенерированных материалов за человеческие.
- Позволяет автоматически определять происхождение контента, созданного моделями Claude.
- Соответствует требованиям европейского законодательства AI Act по прозрачности ИИ.
- Внедрение на уровне модели делает маркировку устойчивой к копированию и редактированию.
- Создает новые вызовы для инструментов обхода защиты и верификации данных.
Модели Claude теперь будут встраивать невидимые водяные знаки во все тексты и файлы
Связано это с тем, что антропики подписали европейский AI Act по прозрачности ИИ-контента, но применяться это будет во всем мире.
Как это работает:
> Текст: модель будет вплетать вотермарку прямо в слова. Она не видима для человека и может переносится после копирования или некоторых правок
> Файлы (SVG, PNG, JPG и т. д): модель будет вшивать подписанные метаданные по стандарту C2PA (подобно SynthID у Google)
Причем маркировка применяется именно на уровне модели, неважно откуда берётся текст: из API, Claude Code, Cowork, через AWS, Google Cloud и тд.
Как это технически будет реализовано пока не понятно, скорее всего будет секретный ключ который незаметно смещает выбор токенов среди равнозначных вариантов, и детектор потом ловит это отклонение.
Если интересно как это работает, вот на Hacker News есть тред.
Как я понимаю, уже существующим моделям дали переходный период, а у новых моделей это будет с релиза
Уже предвкушаю новую волну стартапов по удалению вотермарок ☕
@tips_ai #news

Кратко (AI)
Компания Anthropic объявила о внедрении невидимых водяных знаков в текстовый и графический контент, генерируемый моделями Claude. Для текста используются скрытые изменения в выборе токенов, а для файлов — метаданные стандарта C2PA. Это решение принято в рамках соблюдения европейского AI Act, но будет применяться глобально для всех способов доступа к моделям.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖