← к ленте

Claude внедряет невидимые водяные знаки в контент

T@tips_aiAI-инженер
2 нед

Модели Claude начинают встраивать невидимые водяные знаки в тексты и файлы для идентификации ИИ-контента в соответствии с AI Act.

Это важный шаг к стандартизации идентификации ИИ-контента, который усложнит выдачу сгенерированных материалов за человеческие.

  • Позволяет автоматически определять происхождение контента, созданного моделями Claude.
  • Соответствует требованиям европейского законодательства AI Act по прозрачности ИИ.
  • Внедрение на уровне модели делает маркировку устойчивой к копированию и редактированию.
  • Создает новые вызовы для инструментов обхода защиты и верификации данных.
Модели Claude теперь будут встраивать невидимые водяные знаки во все тексты и файлы Связано это с тем, что антропики подписали европейский AI Act по прозрачности ИИ-контента, но применяться это будет во всем мире. Как это работает: > Текст: модель будет вплетать вотермарку прямо в слова. Она не видима для человека и может переносится после копирования или некоторых правок > Файлы (SVG, PNG, JPG и т. д): модель будет вшивать подписанные метаданные по стандарту C2PA (подобно SynthID у Google) Причем маркировка применяется именно на уровне модели, неважно откуда берётся текст: из API, Claude Code, Cowork, через AWS, Google Cloud и тд. Как это технически будет реализовано пока не понятно, скорее всего будет секретный ключ который незаметно смещает выбор токенов среди равнозначных вариантов, и детектор потом ловит это отклонение. Если интересно как это работает, вот на Hacker News есть тред. Как я понимаю, уже существующим моделям дали переходный период, а у новых моделей это будет с релиза Уже предвкушаю новую волну стартапов по удалению вотермарок ☕ @tips_ai #news
Claude внедряет невидимые водяные знаки в контент

Кратко (AI)

Компания Anthropic объявила о внедрении невидимых водяных знаков в текстовый и графический контент, генерируемый моделями Claude. Для текста используются скрытые изменения в выборе токенов, а для файлов — метаданные стандарта C2PA. Это решение принято в рамках соблюдения европейского AI Act, но будет применяться глобально для всех способов доступа к моделям.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖