OpenAI уволила нескольких подрядчиков, которых наняла для улучшения ответов своих моделей, за то, что те выполняли эту работу с помощью нейросетей — включая Grammarly и ИИ-переводчики. Об этом со ссылкой на внутренние документы компании и разговоры с тремя подрядчиками пишет 404 Mediai.

Ирония ситуации в том, что людям, чья задача — оценивать и улучшать ответы ИИ-моделей, самим запрещено пользоваться любыми ИИ-инструментами. Причина запрета — риск «коллапса моделей»: обучение на данных, сгенерированных более ранними нейросетями, постепенно ухудшает качество, вариативность и точность результата.

• По одному из внутренних документов OpenAI, в подобных проектах по оценке ответов моделей могут участвовать более 10 000 человек
• Один из собеседников 404 Media рассказал, что в его группе из 1000 коллег некоторые попадаются на использовании ИИ
• Проверяющим прямо запрещено пользоваться нейросетями даже при написании отзывов и комментариев, включая такие сервисы как Grammarly и ИИ-переводчики
• Использовать детекторы ИИ-текста, включая GPTZeroi и его аналоги, компания также запрещает — считает их ненадёжными
• Вместо детекторов проверяющие ищут признаки вручную: повторяющиеся слова, характерную для ИИ пунктуацию, слишком быструю сдачу работы
• OpenAI не рекомендует сообщать подрядчику о подозрениях в использовании ИИ, чтобы он не узнал признаки, по которым его вычисляют, и не научился их скрывать