← к ленте

Маркировка ИИ-контента: бюрократия и реакция пользователей

М@myobrechenychannelAI-инженер
3 нед

Анализ новых методов маркировки ИИ-текстов от OpenAI, их эффективности и реакции пользователей на внедрение подобных стандартов.

Регулирование ИИ-контента сталкивается с техническими и этическими сложностями.

  • Внедрение скрытых водяных знаков в текст не гарантирует надежного определения ИИ-авторства.
  • Пользователи выражают недовольство маркировкой, воспринимая её как обесценивание своего участия в процессе генерации.
  • Качество ИИ-контента остается предметом дискуссий, несмотря на развитие технологий.
Европейский союз заставил опенэаев маркировать тексты, сгенеренные ИИ-шкой. Не только их, а всех на самом деле — но вот сейчас опенаи рассказали, как будут с этим требованием обходиться.  Чат джипити не станет писать НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) СОЗДАН И/ИЛИ РАСПРОСТРАНЕН С ПОМОЩЬЮ… бла бла бла Все чуть хитрее.  Предложения будут генерироваться по определенному паттерну, который якобы простому человеку не виден, но детектор, которому этот паттерн известен — сразу же его различит.  Ну то есть, примерно как и было раньше, только сам паттерн теперь регламентирован и описан. И детекторы вроде как не обязательно натаскивать, чтобы они выискивали ИИшность сами.  Выглядит как абсолютное торжество бюрократии, потому что не повлияет ни на что кроме обеспокоенности бюрократов.  По подсчетам самих же опенаев даже с таким подходом детектится 92% текстов. Если их подредактировать — просто позаменять процентов 10% слов на синонимы — и результаты падают уже до 66% Если поредачить как следует, попросить поредачить другую модель, написать слишком короткий текст, перевод и тд — там детектор вообще ничего не значит.  Короче, новости здесь — никакой. Так нафига же столь уважаемый и лезущий в самую глубокую суть вещей телеграм канал Мы обречены уделяет ей внимание? А внимание его задела реакция пользователей, которые подобной практикой возмущены. Возмущались они два месяца назад, когда маркировку вводили антропики. И продолжают возмущаться сейчас.  «Всмысле сгенерировано ИИ? Как вы смеете обесценивать мои труды?! Это же я придумал идею! Это же я дал весь контекст, я два раза написал агенту «все хуйня переделывай», я скопировал и запостил! А ну уберите свои маркировки! Я великий гениальный творец, а клод всего лишь мой инструмент! Уйду к вашим конкурентам, которые ценят мою тонкую творческую натуру» Реакция эта говорит лишь об одном. Мы постепенно возвращаемся в эпоху долбоебов, которые боятся, что у них спиздят идею.  «Я никому не скажу, что придумал темное фентези, где типа рыцарь на типа драконе дерется с типа орками! Вдруг кто-то узнает и сгенерит по ней роман раньше, чем я. Только мой клод знает, насколько идея гениальна» Мне тут показали один гигантский жутко богатый сервис для генерации видео. Он проводит собственный киноконкурс ИИ короткометражек, мечтая однажды найти алмаз, который победит в Каннах отсталое человеческое кино.  Посмотрел парочку топовых. И вот вроде полет фантазии ничем не ограничен. Сыпь идеями, жги токены и смотри что выходит.  Мать моя честная, я такой пресной клишированной безыдейщины не видел давно. Астрал 16: Месть Форсажа. Восход — звучит здесь как эталон свежести. Начинаю подозревать, что все компании притормозили прогресс, чтобы модели не научились говорить в лицо как они заебались генерить нам нашу хуйню

Кратко (AI)

Автор обсуждает внедрение OpenAI скрытых паттернов в текст для маркировки ИИ-контента в соответствии с требованиями ЕС. Отмечается низкая эффективность таких детекторов при редактировании текста и скептическая реакция пользователей, опасающихся обесценивания своего творческого вклада. В заключение автор критикует качество контента, создаваемого с помощью ИИ, называя его клишированным.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖