Издание 404 Mediai выяснило, что OpenAI нанимает «сотни» внешних подрядчиков, которые регулярно просматривают реальные диалоги пользователей с ChatGPT для оценки и улучшения качества ответов бота. Формально модераторы не видят личные данные пользователей, но по данным Код.ру к ним всё равно попадают приватные сведения и даже сохранённый контекст памятиi чат-бота, несмотря на системы конфиденциальности.

Это не уникальная практика OpenAI: Anthropic подтвердили изданию, что тоже используют ручную проверку переписок для улучшения своих моделей, а в правилах Google Gemini указано, что компания проверяет «некоторые» запросы пользователей вручную.

• Расследование провело издание 404 Media
• OpenAI использует подрядчиков для оценки качества ответов ChatGPT
• Некоторые запросы пользователей могут содержать конфиденциальную информацию, которая попадает к модераторам
• По данным Код.ру, к подрядчикам иногда попадают приватные данные и сохранённый контекст памяти чат-бота
• Anthropic заявили 404 Media, что также применяют ручную проверку диалогов для улучшения моделей
• В правилах Google Gemini указано, что компания проверяет «некоторые» запросы вручную