ChatGPT создавал для них виртуальные личности, переводил переписки с жертвами в реальном времени и генерировал поддельные паспорта и юридические документы.Анализ логов показал, что инфраструктура применялась для вербовки людей в киберрабство. Модель массово писала объявления о найме операторов чата с обещанием бесплатного перелета и проживания (это стандартная тактика преступных синдикатов Юго-Восточной Азии). OpenAI передала собранные улики правоохранительным органам и ИБ-партнерам. По оценкам компании, жертвами сети стали сотни человек, финансовые потери отдельных пострадавших исчисляются тысячами долларов. @ai_machinelearning_big_data #news #ai #ml
OpenAI заблокировала сеть аккаунтов ChatGPT, использовавшуюся для киберпреступлений
M@ai_machinelearning_big_dataAI-инженер
3 недOpenAI пресекла деятельность сети аккаунтов из Камбоджи, которые использовали ChatGPT для инвестиционного мошенничества и вербовки людей в киберрабство.
Это важный прецедент использования ИИ в организованной преступности и мер, принимаемых разработчиками для борьбы с этим.
- Подтверждение использования LLM для автоматизации сложных мошеннических схем.
- Демонстрация того, как ИИ-инструменты могут применяться для вербовки людей в криминальные структуры.
- Усиление контроля со стороны разработчиков ИИ за использованием их продуктов в противоправных целях.
✔️ OpenAI заблокировала сеть аккаунтов ChatGPT скам-центров из Камбоджи
Злоумышленники использовали языковую модель для автоматизации инвестиционного и дэйтинг-скама, а также имитации работы правоохранительных органов.
Кратко (AI)
OpenAI заблокировала сеть аккаунтов, которые злоумышленники из Камбоджи использовали для автоматизации мошеннических схем, включая инвестиционный скам и вербовку людей в киберрабство. С помощью ChatGPT преступники создавали фальшивые личности, переводили переписки и генерировали поддельные документы.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖