OpenAI использует подрядчиков для анализа переписок в ChatGPT

1 мес

Журналисты выяснили, что OpenAI нанимает сотни подрядчиков для проекта Project Lily, которые анализируют реальные диалоги пользователей с ChatGPT.

Пользователи ChatGPT должны знать, что их переписка может быть прочитана людьми для обучения нейросети.

Подрядчики OpenAI анализируют реальные диалоги для улучшения модели.
Существует риск попадания чувствительных данных к третьим лицам, если фильтры не сработают.
Пользователи могут ограничить использование своих данных в настройках приватности ChatGPT.

У OpenAI есть люди, читающие чужие переписки с ChatGPT Журналисты выяснили, что OpenAI нанимает сотни подрядчиков для проекта под кодовым названием Project Lily. Люди получают реальные запросы пользователей ChatGPT, а иногда и целые диалоги, после чего оценивают ответы модели и объясняют, как их можно улучшить. Среди задач – сделать ChatGPT менее угодливым и не давать ему изображать из себя человека. Перед передачей диалогов OpenAI прогоняет их через фильтр, который должен удалить чувствительные данные. Компания признаёт, что иногда удаляется не всё. Журналисты говорят, что видели такие примеры, когда готовили расследование. Сама OpenAI подтверждает, что переписки пользователей ChatGPT могут использоваться для улучшения моделей, если в настройках включена соответствующая опция. https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/

Кратко (AI)

OpenAI привлекает сотни подрядчиков в рамках проекта Project Lily для анализа диалогов пользователей с ChatGPT. Цель проекта — улучшение качества ответов модели, однако журналисты отмечают риски утечки чувствительных данных, несмотря на работу фильтров.

OpenAI использует подрядчиков для анализа переписок в ChatGPT

Кратко (AI)

Обсуждение