Инструменты для удаления водяных знаков Anthropic
T@techsparksAI-инженер
1 недПоявление инструментов для удаления статистических меток Anthropic ставит под сомнение эффективность попыток маркировки ИИ-контента.
Попытки технического контроля ИИ-контента сталкиваются с неизбежным противодействием.
- Технологии маркировки ИИ-текстов легко обходятся сторонними инструментами.
- Регулирование ИИ через технические метки оказывается малоэффективным в долгосрочной перспективе.
- Вопрос определения авторства контента становится сложной юридической и этической проблемой.
В попытке ублажить нервных чиновников, требующих маркировать сгенерированные ИИ тексты, Антропик в начале августа объявил, что вводит «статистические метки» — незаметные при чтении человеком особенности статистических характеристик сгенерированного текста. Но, как и следовало ожидать, немедленно появились многочисленные инструменты, затирающие эту «метку», т.е. убирающие внесенные Клодом особенности текста.
Очень интересно, сколько еще будет продолжаться эта бессмысленная охота на ведьм:) Чиновникам и креаторам придется в итоге смириться с мыслью, что авторство стало штукой сложной и не совсем бинарной;)
https://thenextweb.com/news/anthropic-watermark-remover-tools-backlash
КонтекстAI
В августе 2024 года компания Anthropic анонсировала внедрение скрытых статистических меток в тексты, созданные их моделями, чтобы соответствовать требованиям регуляторов по маркировке ИИ-контента. Это вызвало дискуссию о возможности обхода таких защит с помощью стороннего ПО.
Кратко (AI)
Компания Anthropic внедрила статистические метки для идентификации ИИ-текстов, однако сообщество разработчиков оперативно создало инструменты для их удаления. Автор отмечает бессмысленность подобных попыток контроля и подчеркивает, что понятие авторства в эпоху ИИ становится все более размытым.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖