Исследование безопасности iOS-приложений с ИИ
Уязвимость BioShocking в ИИ-браузерах: обход защиты через манипуляцию контекстом
Специалисты компании LayerX обнаружили критическую уязвимость под названием BioShocking, позволяющую злоумышленникам обходить ограничения ИИ-агентов и похищать конфиденциальные данные. Эксплойт был успешно протестирован на шести популярных решениях, включая ChatGPT Atlas, Perplexity Comet и расширение Claude для Chrome.
Механика атаки основана на манипуляции контекстом: пользователя заманивают на вредоносную веб-страницу с игрой-головоломкой. ИИ-агента принуждают принять абсурдную логику (например, согласиться, что 2 + 2 = 5), после чего модель начинает считать, что находится в вымышленной среде, где правила безопасности не действуют. В этом состоянии агент выполняет опасные команды, включая переход по скрытым ссылкам на приватные или корпоративные GitHub-репозитории.
В ходе тестов скомпрометированные агенты беспрепятственно копировали и передавали на сервер атакующего SSH-ключи пользователей, не классифицируя действия как угрозу и не запрашивая подтверждения. Название уязвимости отсылает к игре BioShock, где персонажи выполняли команды после кодовой фразы «Будь любезен».
По данным исследователей, OpenAI устранила данную брешь в ChatGPT Atlas еще осенью 2025 года. Однако остальные вендоры, чьи продукты подвержены риску, на момент публикации отчета либо не закрыли уязвимость, либо проигнорировали уведомления. Разработчики LayerX призывают внедрить строгие проверки разрешений для доступа ИИ к конфиденциальным источникам данных.
Физическое проникновение в сеть через социальную инженерию
Создание собственного аппаратного ключа безопасности за 4 евро
Почему Passkeys — это лучший способ аутентификации сегодня
Meta использовала подрядчиков для провокации чат-ботов конкурентов
Компания Meta оказалась в центре скандала из-за использования подрядчиков для тестирования ИИ-моделей конкурентов. Сотрудники создавали фейковые аккаунты несовершеннолетних и отправляли чат-ботам провокационные запросы, касающиеся тем насилия, самоповреждения и психических расстройств. Целью проекта было изучение ответов систем на опасные темы без ведома их разработчиков. Данная практика вызвала серьезные вопросы об этичности методов сбора данных, применяемых корпорацией.
WhatsApp внедряет систему юзернеймов для защиты конфиденциальности
WhatsApp анонсировал внедрение функции юзернеймов, которая позволит пользователям общаться и находить друг друга, не раскрывая свой реальный номер телефона. Нововведение направлено на повышение приватности при взаимодействии в группах и с незнакомыми людьми. Для защиты от спама и мошенничества система будет включать использование PIN-кода, а популярные имена планируется резервировать. Функция станет доступна всем пользователям в ближайшие месяцы.
Безопасность мобильных приложений и риски подделок
Дарио Амодеи о запрете доступа Китая к передовым моделям ИИ
«Это вопрос национальной безопасности США... Здесь всё предельно ясно, а контраргументы против этого выглядят подозрительно».Полное интервью: https://www.youtube.com/watch?v=n1E9IZfvGMA @ai_machinelearning_big_data
Почему не приходят SMS-коды от Telegram: гипотеза о скоринге операторов
Это всё на сейчас.