← к ленте

OpenAI раскрыла российскую сеть влияния, имитирующую аналитический центр

А@almazrobotsAI-инженер
3 дн

OpenAI заблокировала аккаунты, связанные с International Burke Institute, который использовал ИИ для создания фальшивого авторитетного источника.

Это пример того, как ИИ используется для создания «фабрик авторитетности» в интернете.

  • Злоумышленники создают имитацию экспертных организаций для легитимизации дезинформации.
  • ИИ позволяет автоматизировать производство контента, который выглядит как качественная аналитика.
  • OpenAI активно отслеживает и блокирует использование своих инструментов для подобных манипуляций.
OpenAI пресекла новую скрытую кампанию влияния из России Компания заявила, что заблокировала группу аккаунтов ChatGPT, которые, с высокой вероятностью, управлялись из России и использовались в рамках скрытой информационной кампании. 🧠 В центре схемы находился International Burke Institute (IBI) — организация, представлявшая себя как международное экспертное сообщество, базирующееся в Израиле. У нее были: 🔹 сайт аналитического центра; 🔹 «международные эксперты»; 🔹 исследования и статьи; 🔹 собственный «индекс суверенитета» стран; 🔹 аккаунты и сеть распространения в соцсетях. OpenAI проверила 36 опубликованных IBI материалов и утверждает, что 34 из них были скопированы из других источников. В некоторых случаях настоящие научные статьи публиковались под именами совершенно других людей. То есть речь шла не просто о генерации фейковых постов. А целую сеть аккаунтов, объединенных в разные отдели и занимающиеся конвейнерно переписыванием новостей, оформлением иллюстраций, выкладкой и т.д. Фактически строилась целая инфраструктура доверия: ▶️ берём реальные академические материалы; ▶️ создаём вокруг них внешне солидный think tank; ▶️ добавляем собственные рейтинги и исследования; ▶️ формируем нужный политический нарратив; ▶️ распространяем его через соцсети и Telegram. ⚠️ не «100 000 ботов пишут комментарии», а «создаём источник, который выглядит авторитетным, а затем постепенно заставляем интернет ссылаться на него». OpenAI сама использует очень точную формулировку — manufacture authority. То есть буквально "сконструировать авторитетность". И самая ирония в том, ChatGPT помог породить эту сеть, и он же помог и обнаружить и закрыть ее.
OpenAI раскрыла российскую сеть влияния, имитирующую аналитический центр

Кратко (AI)

OpenAI выявила и заблокировала сеть аккаунтов ChatGPT, использовавшуюся для создания фальшивого аналитического центра International Burke Institute. Организация имитировала экспертную деятельность, публикуя плагиат и сгенерированный контент для формирования политических нарративов.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖