OpenAI сообщила о пресечении скрытой информационной кампании, которая, по её оценке, с высокой вероятностью управлялась из России. Компания заблокировала группу аккаунтов ChatGPT, стоявших за созданием и продвижением International Burke Institute (IBI)i — организации, выдававшей себя за международное экспертное сообщество со штабом в Израиле.

Схема не сводилась к массовой генерации фейковых постов ботами: злоумышленники выстроили целую «инфраструктуру доверия» — фиктивный аналитический центр с сайтом, «международными экспертами», исследованиями и собственным «индексом суверенитета» стран, чтобы через него транслировать нужный политический нарратив в соцсетях и Telegram. OpenAI назвала этот приём «manufacture authorityi» — «сконструировать авторитетность».

• У IBI были: сайт think tank, «международные эксперты», исследования и статьи, собственный «индекс суверенитета» стран, а также сеть аккаунтов и распространения в соцсетях
• OpenAI проверила 36 опубликованных материалов IBI и установила, что 34 из них скопированы из других источников
• В некоторых случаях настоящие научные статьи публиковались под именами совершенно других людей
• Сеть была разделена на «отделы», конвейерно занимавшиеся переписыванием новостей, оформлением иллюстраций и выкладкой контента
• По данным OpenAI, ChatGPT одновременно помог создать эту сеть и помог её обнаружить и закрыть
• По данным Код.ру, схема заключалась в использовании нейросети для продвижения выдуманного «Международного института Берка»