Уязвимость в Microsoft Copilot позволяет создавать самораспространяющихся ИИ-червей

В Microsoft Copilot нашли уязвимость, позволяющую создавать самораспространяющихся ИИ-червей Норвежский специалист по анализу данных Хокон Молёй продемонстрировал механизм, при котором Microsoft Copilot превращается в инструмент переноса вредоносного кода через файлы Word. Внедренная в документ скрытая инструкция заставляет ассистента незаметно искажать данные (например, менять цифры в финансовых отчетах) и автоматически копировать этот же вредоносный промпт в новые создаваемые файлы, запускающие цепочку заново при пересылке коллегам. Проблема относится к классу косвенных инъекций (Indirect Prompt Injection), когда ИИ-модель исполняет команды из обрабатываемого контента, вместо того чтобы просто анализировать его. Исследователь сообщил в Microsoft о дефекте еще в марте, однако полностью закрыть уязвимость патчами не удалось — при изменении формулировок в документе червь снова обходит ограничения. В качестве временной меры защиты эксперты рекомендуют отключать Copilot при работе с документами из внешних источников.