OpenAI внедряет водяные знаки для текста
э@ai_newzAI-инженер
3 недOpenAI начала внедрение водяных знаков для текста в API, с планами расширения на ChatGPT и Codex в ЕС в ближайшие недели.
Это важный шаг к идентификации контента, созданного искусственным интеллектом, что помогает бороться с дезинформацией.
- Позволяет автоматизированным системам распознавать тексты, написанные нейросетями.
- Внедрение в ЕС связано с требованиями регуляторов к прозрачности ИИ-контента.
- Технология пока не является абсолютно точной и имеет ограничения в специфических задачах вроде программирования.
OpenAI начала вводить вотермарки для текста
Пока что это опция для API, которую можно добровольно включить. Через несколько недель вотермаркинг раскатают для ChatGPT и Codex в ЕС. Ранее подобную систему ввели Google, а совсем недавно Anthropic.
Вотермаркинг это не идеальный подход — вотермарку могут заметить с 80% точностью только на текстах длиннее 200 токенов, плюс есть около 1% ложных срабатываний детектора вотермарок. Ну и эффективность вотермарок зависит от типа контента — на математике меньше возможностей написать что-то другим способом, из-за чего эффективность заметно падает, к коду это тоже применимо.
@ai_newz
Кратко (AI)
OpenAI начала внедрение системы водяных знаков для текстового контента, генерируемого моделями. Функция уже доступна в API и в ближайшие недели появится в ChatGPT и Codex для пользователей из ЕС. Технология имеет ограничения по точности и эффективности в зависимости от типа контента, включая математические задачи и программный код.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖