← к ленте

OpenAI пресекла российскую кампанию по созданию фальшивых аналитических центров

А@almazrobotsAI-инженер
3 дн

OpenAI заблокировала сеть аккаунтов, использовавших ChatGPT для создания фальшивого аналитического центра International Burke Institute в целях влияния.

Это пример того, как ИИ используется для создания «фальшивых авторитетов» в интернете.

  • Злоумышленники создают имитацию экспертных организаций для легитимизации дезинформации.
  • ИИ позволяет автоматизировать производство контента, который выглядит профессионально и достоверно.
  • Методы манипуляции смещаются от массового спама к созданию долгосрочных источников «авторитетного» мнения.
OpenAI пресекла новую скрытую кампанию влияния из России Компания заявила, что заблокировала группу аккаунтов ChatGPT, которые, с высокой вероятностью, управлялись из России и использовались в рамках скрытой информационной кампании. 🧠 В центре схемы находился International Burke Institute (IBI) — организация, представлявшая себя как международное экспертное сообщество, базирующееся в Израиле. У нее были: 🔹 сайт аналитического центра; 🔹 «международные эксперты»; 🔹 исследования и статьи; 🔹 собственный «индекс суверенитета» стран; 🔹 аккаунты и сеть распространения в соцсетях. OpenAI проверила 36 опубликованных IBI материалов и утверждает, что 34 из них были скопированы из других источников. В некоторых случаях настоящие научные статьи публиковались под именами совершенно других людей. То есть речь шла не просто о генерации фейковых постов. А целую сеть аккаунтов, объединенных в разные отдели и занимающиеся конвейнерно переписыванием новостей, оформлением иллюстраций, выкладкой и т.д. Фактически строилась целая инфраструктура доверия: 👉 берём реальные академические материалы; 👉 создаём вокруг них внешне солидный think tank; 👉 добавляем собственные рейтинги и исследования; 👉 формируем нужный политический нарратив; 👉 распространяем его через соцсети и Telegram. не «100 000 ботов пишут комментарии», а «создаём источник, который выглядит авторитетным, а затем постепенно заставляем интернет ссылаться на него». OpenAI сама использует очень точную формулировку — manufacture authority. То есть буквально: сконструировать авторитетность. ChatGPT помог породить эту сеть, и он же помог и обнаружить и закрыть ее

Кратко (AI)

OpenAI выявила и заблокировала сеть аккаунтов, которые использовали ChatGPT для создания фальшивого аналитического центра International Burke Institute. Организация имитировала экспертную деятельность, копируя чужие научные статьи и продвигая политические нарративы для формирования ложного авторитета в сети.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖