Использование Claude хуситами для разработки систем наведения ракет

Интересные примеры неконвенционального использования ИИ произошли на днях — повстанцы-хуситы на севере Йемена, поддерживаемые Ираном, использовали Claude для вайбкодинга ПО для высокотехнологичного ракетного оружия. Антропики, естественно, уже заблокировали их. Anthropic сообщили, что владельцы аккаунтов, заблокированных после обнаружения, не смогли «развернуть действующее устройство», однако провели неудачные испытания управляемой ракеты. В компании уточнили, что узнали об этом, поскольку пользователи вернулись к чат-боту Claude, чтобы выяснить причины неудачи. Пользователи вайбкодили несколько типов вооружений, включая гиперзвуковую ракету вариативной компоновки и боеголовку, использующую комплектующие мобильных телефонов для маневрирования на траектории. В докладе, опубликованном 10 сентября (GTG-87001: Disrupting a Yemen-based guided weapons engineering cell using Claude to develop guidance software, там ещё много интересного по, например, китайскому использованию американского ИИ для изготовления военного ПО), компания пишет, что

Акторы использовали Claude Code вместо инженеров-программистов для разработки программного обеспечения систем наведения, навигации и управления (GNC), которое отвечает за движение и стабилизацию летательного аппарата. Например, они задействовали Claude для интеграции автопилота с открытым исходным кодом в полётный компьютер класса смартфона, написания ПО для управления и оценки позиционирования, настройки параметров управления, запуска конвейера (пайплайна) сборки прошивки и проведения симуляции полёта. Акторы одновременно управляли несколькими инстансами Claude, распределяя между ними роли точно так же, как тимлид делегирует задачи внутри небольшой инженерной команды: одному инстансу поручали написание кода, другому — проведение исследований, а третьему — ревью (проверку) кода, созданного первым.

Однако с другой стороны, Хазам аль-Асад, член политбюро хуситов, назвал «неразумными и нелогичными» предположения о том, что они полагаются на открытые источники для разработки и производства военных мощностей. Следом же повстанцы добились больших успехов по захвату территорий так как сделали дипфейк голоса командующего «Национальным сопротивлением» Йемена генерал-лейтенанта Тарека Салеха, который якобы отдаёт приказ об отступлении и захватили стратегические территории вдоль побережья Красного моря и в Баб-эль-Мандебском проливе — ключевой альтернативе Ормузскому проливу. Чем дальше, тем больше таких неконвенциональных использований и пере-использований ИИ-агентов мы увидим, если, конечно, всю эту лавочку не прикроют совсем скоро и доступ к фронтирным моделям не сделают эксклюзивным для американских военных корпораций и государственных агентств во имя новой холодной хай-тек войны с Китаем, а пользователям оставят мизерные урезанные версии.