OpenAI внедряет технологию textGrain для маркировки контента
I@itcnewsruавтор про «tech»
3 недOpenAI анонсировала технологию textGrain для скрытой маркировки текстов через статистические паттерны, соответствуя требованиям законодательства ЕС.
Это важный шаг в борьбе с неконтролируемым распространением контента, созданного нейросетями.
- Технология позволяет отслеживать авторство ИИ-текстов без искажения их визуального вида.
- Внедрение маркировки в ЕС продиктовано новыми законодательными требованиями к прозрачности ИИ.
- Ограниченный доступ к детектору может затруднить проверку контента для широкой аудитории.
ChatGPT начнёт помечать тексты незаметными водяными знаками
OpenAI готовит технологию textGrain, которая не добавляет скрытые символы или специальные пробелы. Вместо этого модель немного меняет статистику выбора слов и их частей, создавая паттерн, который человек не заметит, но сможет обнаружить специальный детектор.
Функция должна работать на всех тарифах в Евросоюзе из-за требований местного законодательства. В других странах OpenAI пока не планирует её включать.
Для разработчиков водяные знаки через API уже доступны по всему миру, но их нужно активировать самостоятельно. Доступ к детектору OpenAI будет выдавать только одобренным исследователям и профильным организациям.
Кратко (AI)
OpenAI разрабатывает технологию textGrain, которая внедряет невидимые водяные знаки в тексты через изменение статистического выбора слов. Функция будет обязательной для пользователей в Евросоюзе, а для разработчиков через API доступна опционально по всему миру. Детектор для проверки таких текстов будет предоставляться ограниченному кругу исследователей.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖