Интересные примеры неконвенционального использования ИИ произошли на днях — повстанцы-хуситы на севере Йемена, поддерживаемые Ираном, использовали Claude для вайбкодинга ПО для высокотехнологичного ракетного оружия. Антропики, естественно, уже заблокировали их. Anthropic сообщили, что владельцы аккаунтов, заблокированных после обнаружения, не смогли «развернуть действующее устройство», однако провели неудачные испытания управляемой ракеты. В компании уточнили, что узнали об этом, поскольку пользователи вернулись к чат-боту Claude, чтобы выяснить причины неудачи. Пользователи вайбкодили несколько типов вооружений, включая гиперзвуковую ракету вариативной компоновки и боеголовку, использующую комплектующие мобильных телефонов для маневрирования на траектории. В докладе, опубликованном 10 сентября (GTG-87001: Disrupting a Yemen-based guided weapons engineering cell using Claude to develop guidance software, там ещё много интересного по, например, китайскому использованию американского ИИ для изготовления военного ПО), компания пишет, что

Акторы использовали Claude Code вместо инженеров-программистов для разработки программного обеспечения систем наведения, навигации и управления (GNC), которое отвечает за движение и стабилизацию летательного аппарата. Например, они задействовали Claude для интеграции автопилота с открытым исходным кодом в полётный компьютер класса смартфона, написания ПО для управления и оценки позиционирования, настройки параметров управления, запуска конвейера (пайплайна) сборки прошивки и проведения симуляции полёта. Акторы одновременно управляли несколькими инстансами Claude, распределяя между ними роли точно так же, как тимлид делегирует задачи внутри небольшой инженерной команды: одному инстансу поручали написание кода, другому — проведение исследований, а третьему — ревью (проверку) кода, созданного первым.

Однако с другой стороны, Хазам аль-Асад, член политбюро хуситов, назвал «неразумными и нелогичными» предположения о том, что они полагаются на открытые источники для разработки и производства военных мощностей. Следом же повстанцы добились больших успехов по захвату территорий так как сделали дипфейк голоса командующего «Национальным сопротивлением» Йемена генерал-лейтенанта Тарека Салеха, который якобы отдаёт приказ об отступлении и захватили стратегические территории вдоль побережья Красного моря и в Баб-эль-Мандебском проливе — ключевой альтернативе Ормузскому проливу. Чем дальше, тем больше таких неконвенциональных использований и пере-использований ИИ-агентов мы увидим, если, конечно, всю эту лавочку не прикроют совсем скоро и доступ к фронтирным моделям не сделают эксклюзивным для американских военных корпораций и государственных агентств во имя новой холодной хай-тек войны с Китаем, а пользователям оставят мизерные урезанные версии.

😈Как дипфейк-махинатор погорел на собственной цифровой маске 🚔В Испании задержали жителя Мурсии, который поставил на поток кражу чужих личностей с помощью дипфейков, но попался на досадной технической заминке. Мужчина пытался оформить квалифицированные электронные сертификаты - инструмент, который в странах ЕС открывает полный доступ к подписанию юридических документов, кредитам и госуслугам от чужого имени. Для обхода удаленной видеоидентификации злоумышленник подготовился на совесть:

🟦Искусственное лицо в реальном времени: Программа подменяла его черты под фото на украденных удостоверениях личности.

🟦Аналоговый обман голограмм: Мошенник расставил дома прожекторы с цветными лампами и под нужным углом покачивал поддельные документы перед камерой, имитируя настоящие переливающиеся защитные элементы и голограммы.

🟦Скрытие следов: Все сессии заворачивались через VPN, а для сопутствующих махинаций были закуплены сотни сим-карт на чужие имена.

Схема работала безупречно, пока в один момент программа обработки изображения не зависла. Цифровая маска слетела ровно на одну секунду, обнажив настоящее лицо оператора перед сотрудниками удостоверяющего центра. Этого короткого мгновения хватило, чтобы служба безопасности забила тревогу и передала материалы полиции. Мошенник почти довел дело до конца, создав сложнейшую студийную инсталляцию со светом и нейросетями, но проиграл банальной производительности софта. ➡️Грамотная AI-мимикрия и Deepfake 🦔CyberYozh

Похоже, мы нашли первое по-настоящему благородное применение дипфейков. Британский оператор Virgin Media O2 создал ИИ-бабушку по имени Daisy. Её единственная работа – принимать звонки телефонных мошенников и выносить им мозг. Daisy часами рассказывает бессвязные истории про внуков и вязание, диктует выдуманные реквизиты карты, переспрашивает, теряет нить разговора и искренне не понимает, чего от неё хотят. Скамеры проводят с ней до 40 минут за звонок, безуспешно пытаясь объяснить “бабушке”, куда нажать. Ирония сюжета космическая. Годами мошенники строили индустрию на том, что пожилой человек доверчив, медлителен и плохо разбирается в технологиях. И вот теперь их же оружие обернулось против них: самый неудобный клиент в мире – это симуляция той самой бабушки, только без усталости, без эмоций и с бесконечным терпением. Кожаные мешки по ту сторону трубки выгорают, а Daisy – нет. И я вижу здесь кое-что поинтереснее забавной новости. Экономика скама держится на конверсии: сколько звонков нужно сделать, чтобы найти жертву. Daisy бьёт не по конкретному мошеннику, а по юнит-экономике всей индустрии. Каждые 40 минут с ботом – это 40 минут, за которые никого реального не обманули. O2 даже специально подсадила номера Daisy в базы, которыми пользуются колл-центры мошенников. Можно предположить, что эту модель будут тестировать и на других сомнительных рынках. Спам, фишинг, накрутки, боты в комментариях – везде, где атака автоматизирована, защита тоже станет автоматизированной. Дальше воевать будут ИИ с ИИ, а мы с вами – просто наблюдать за этим со стороны, как за боями роботов. Мошенник, потративший вечер на разговор с нейросетью о вязании, – пожалуй, лучшее, что искусственный интеллект сделал для человечества в этом месяце. А вам звонили “из службы безопасности банка”? Как прошло общение?