Подрядчики Microsoft, оценивающие работу ИИ-помощника Copilot, имеют доступ к личным фото и запросам пользователей без какой-либо цензуры или анонимизации.
Крупная утечка приватности в ИИ-инструментах Microsoft ставит под вопрос безопасность пользовательских данных.
Личные фотографии пользователей просматриваются живыми людьми без предварительной анонимизации.
Отсутствие фильтрации контента приводит к тому, что подрядчики вынуждены обрабатывать запросы сексуального характера.
Инцидент подчеркивает риски использования облачных ИИ-сервисов для обработки чувствительной личной информации.
😶 Фото и запросы, которые люди отправляют в ИИ-помощник Microsoft Copilot, просматривают живые подрядчики.
Лица на снимках не скрыты
⚡️Об этом рассказали 404 Media сами проверяющие. Microsoft нанимает людей со стороны оценивать, насколько хорошо Copilot редактирует картинки. Как минимум часть из них набирают через платформу подработок Prolific.
🟦Проверяющий видит всё сразу: текст запроса, загруженное фото и два варианта, которые выдала нейросеть. Его задача - выбрать лучший.
Проблема в том, что именно люди просят. По словам подрядчиков, им постоянно попадаются запросы укоротить женщине юбку, увеличить грудь или поставить человека с фото в откровенную позу. Встречаются снимки, сделанные тайком под юбкой: в одном случае их было минимум восемь подряд.
💬 Один из проверяющих описал это так:
"Лица никогда не скрыты, многие запросы сексуальные, и согласие людей на фото под большим вопросом"
💬 Другой спросил:
"Кто вообще решил, что Copilot теперь занимается генерацией порно"
🐋Microsoft ответила одной фразой:
"компания использует данные клиентов так, как описано в пользовательском соглашении, в том числе чтобы улучшать продукты"
Подрядчики, нанятые Microsoft для оценки качества работы ИИ-помощника Copilot, получили доступ к конфиденциальным данным пользователей. В ходе проверки они видят личные фотографии и запросы, включая контент сексуального характера, без какой-либо анонимизации лиц.
Обсуждение
0
В
Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖