Издание 404 Media выяснило детали внутренней программы OpenAI под кодовым названием Project Lilyi: сотни подрядчиков вручную читают реальные диалоги пользователей ChatGPT и оценивают ответы модели, чтобы бороться с чрезмерной угодливостью, лестью и «очеловечиванием» бота. Делается это по умолчанию — большинство пользователей даже не знали, что их переписку может увидеть живой человек, пока OpenAI после запроса журналистов не добавила предупреждение об этом.
Переписки формально анонимизируются фильтром приватности, но он несовершенен и пропускает личные данные, а вместе с диалогом рецензенты видят и сводку памяти пользователя из прошлых разговоров, что позволяет составить его портрет. Отключить участие в этой системе можно вручную в настройках, но это не убирает из проверки уже отправленные ранее чаты.
