OpenAI внедряет водяные знаки textGrain в ChatGPT

#Сеня_и_Даня_Здесь_Были Это слишком прекрасно, чтобы показывать только не молящимся. Смотрел 4 раза, все последние мемы и новости учтены. Офигительно. А для тех, кому подавай новастей, ниже, как обычно, про Сеню. OpenAI начала добавлять в текст ChatGPT невидимые водяные знаки. Механизм называется textGrain. Это не метаданные, которые исчезнут после Ctrl+C. Сигнал встраивается прямо в статистику генерации - модель слегка меняет вероятность выбора слов в ответе LLM так, чтобы специальный детектор потом мог распознать характерный паттерн. И да, спасибо европейским регуляторам. OpenAI внедряет это в ChatGPT в ЕС в рамках требований EU AI Act по маркировке AI-контента. Так что зумеры, работающие в жанре "напиши мне курсовую, но чтобы препод не понял" внезапно невно закурили. Правда, детектор textGrain пока не является общедоступным инструментом для кожаных, а сама OpenAI предупреждает, что watermark не является безусловным доказательством происхождения текста. Но у меня вопрос - переживёт ли он ДРУГУЮ LLM? Если взять результат ChatGPT и попросить Опусянского или Дипсикченко полностью переписать его другими словами, исходная последовательность токенов исчезает. А вместе с ней должен сильно деградировать и статистический watermark. Насколько сильно - пока неизвестно: независимых тестов именно textGrain против современных LLM-парафразеров недостаточно. Но я жду наплыва сервисов типа: "Удаляем водяные знаки ChatGPT из вашей дипломной. Недорага." ИИ создаёт новые рабочие места, чо. Особенно в тандеме с европейскими параноиками. Сеня: https://openai.com/index/advancing-content-provenance/ https://help.openai.com/en/articles/8912793-provenance-signals-in-openai-generated-content @cgevent