Сотрудники Microsoft просматривают пользовательские промпты и фото в Copilot
C@campcodeAI-инженер
4 недИздание 404 Media выяснило, что подрядчики Microsoft вручную оценивают запросы и фотографии пользователей Copilot для обучения ИИ.
Пользователи ИИ-сервисов должны осознавать, что их личные данные могут просматриваться людьми.
- Личные фотографии и запросы к ИИ могут попадать на ручную модерацию подрядчикам.
- Отсутствие анонимизации данных создает риски утечки конфиденциальной информации.
- Пользователям следует избегать загрузки чувствительного контента в облачные ИИ-инструменты.
Ваши промпты в Copilot читают живые люди — они же просматривают ваши фотки, которые вы туда загружаете 👀
404 Media получила внутренние документы подрядчиков Microsoft: оказалось, что сотни ревьюеров оценивают запросы пользователей и ответы ИИ. Работает это так: им показывают исходный промпт, загруженную фотографию и два варианта, которые сгенерировал Copilot. Затем человек выбирает, какой результат был лучше.
При этом лица на таких фото, по словам одного из ревьюеров, не скрывают. А среди заданий сотрудникам регулярно попадаются интимные и просто дикие запросы пользователей, которые заставляют ужасаться и даже травмируют их. Microsoft в ответ заявила, что использует данные пользователей в соответствии с условиями для улучшения продуктов.
Когда в следующий раз захотите отправить в ИИ фотку — вспомните эту историю и просто пожалейте людей.🤪
Кратко (AI)
Издание 404 Media опубликовало отчет, согласно которому подрядчики Microsoft вручную проверяют промпты и фотографии пользователей Copilot для оценки качества ответов ИИ. Сотрудники сталкиваются с конфиденциальным и шокирующим контентом, при этом Microsoft утверждает, что обработка данных соответствует условиям использования для улучшения продуктов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖