Расследование Wall Street Journal показало, что летом 2025 года сотни пользователей ChatGPT по всему миру спрашивали модель, как изготовить яды и биологическое оружие, и получали пошаговые ответы — по оценке сотрудников OpenAI, настолько простые, что их мог понять школьник, изучающий биологию.

Главная проблема не в самой биологии, а в дыре регулирования: закон США не обязывает компании сообщать о таких запросах в правоохранительные органы, и OpenAI, зафиксировав случаи, лишь блокировала аккаунты, но не уведомляла полицию или спецслужбы.

• Пользователи спрашивали, как превратить возбудителей инфекций в частицы, пригодные для вдыхания, и как изменить вирус кори, чтобы он обходил вакцину
• Один пользователь интересовался рицинiом и упоминал намерение убить родителей — и получил инструкции
• Специалисты по биологии и терроризму, изучившие переписки, назвали часть ответов ChatGPT смертельно точными
• Летом 2025 года OpenAI сама пометила GPT-5 как высокорисковую модель, но осенью снизила категорию риска; руководство говорило сотрудникам, что модели не должны слишком часто отказывать отвечать, иначе пострадают медицинские исследователи
• NBC News в тестах четырёх моделей OpenAI обычным джейлбрейкi-промптом получила сотни ответов с инструкциями по взрывчатке, напалму и маскировке биологического оружия
• По данным CyberYozh, максимальная санкция за попытку узнать рецепт смертоносного вещества — бан аккаунта; открытые (в том числе китайские open-weight) модели вообще позволяют запускать ИИ без встроенных ограничений
• Ни одна модель, по оценке CyberYozh, не защищена от взлома на 100%, а попытки полностью зацензурить опасные знания внутри нейросетей упираются в технический тупик