OpenAI пресекла российскую кампанию по созданию фальшивых аналитических центров
А@almazrobotsAI-инженер
3 днOpenAI заблокировала сеть аккаунтов, использовавших ChatGPT для создания фальшивого аналитического центра International Burke Institute в целях влияния.
Это пример того, как ИИ используется для создания «фальшивых авторитетов» в интернете.
- Злоумышленники создают имитацию экспертных организаций для легитимизации дезинформации.
- ИИ позволяет автоматизировать производство контента, который выглядит профессионально и достоверно.
- Методы манипуляции смещаются от массового спама к созданию долгосрочных источников «авторитетного» мнения.
OpenAI пресекла новую скрытую кампанию влияния из России
Компания заявила, что заблокировала группу аккаунтов ChatGPT, которые, с высокой вероятностью, управлялись из России и использовались в рамках скрытой информационной кампании.
🧠 В центре схемы находился International Burke Institute (IBI) — организация, представлявшая себя как международное экспертное сообщество, базирующееся в Израиле.
У нее были:
🔹 сайт аналитического центра;
🔹 «международные эксперты»;
🔹 исследования и статьи;
🔹 собственный «индекс суверенитета» стран;
🔹 аккаунты и сеть распространения в соцсетях.
OpenAI проверила 36 опубликованных IBI материалов и утверждает, что 34 из них были скопированы из других источников. В некоторых случаях настоящие научные статьи публиковались под именами совершенно других людей.
То есть речь шла не просто о генерации фейковых постов. А целую сеть аккаунтов, объединенных в разные отдели и занимающиеся конвейнерно переписыванием новостей, оформлением иллюстраций, выкладкой и т.д.
Фактически строилась целая инфраструктура доверия:
👉 берём реальные академические материалы;
👉 создаём вокруг них внешне солидный think tank;
👉 добавляем собственные рейтинги и исследования;
👉 формируем нужный политический нарратив;
👉 распространяем его через соцсети и Telegram.
не «100 000 ботов пишут комментарии», а «создаём источник, который выглядит авторитетным, а затем постепенно заставляем интернет ссылаться на него».
OpenAI сама использует очень точную формулировку — manufacture authority.
То есть буквально: сконструировать авторитетность.
ChatGPT помог породить эту сеть, и он же помог и обнаружить и закрыть ее
Кратко (AI)
OpenAI выявила и заблокировала сеть аккаунтов, которые использовали ChatGPT для создания фальшивого аналитического центра International Burke Institute. Организация имитировала экспертную деятельность, копируя чужие научные статьи и продвигая политические нарративы для формирования ложного авторитета в сети.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖