OpenAI уволила нескольких подрядчиков, которых наняла для улучшения ответов своих моделей, за то, что те выполняли эту работу с помощью нейросетей — включая Grammarly и ИИ-переводчики. Об этом со ссылкой на внутренние документы компании и разговоры с тремя подрядчиками пишет 404 Mediai.
Ирония ситуации в том, что людям, чья задача — оценивать и улучшать ответы ИИ-моделей, самим запрещено пользоваться любыми ИИ-инструментами. Причина запрета — риск «коллапса моделей»: обучение на данных, сгенерированных более ранними нейросетями, постепенно ухудшает качество, вариативность и точность результата.
10 000человек в проектах оценки моделей
1000коллег в одной рабочей группе