ChatGPT и риски генерации инструкций по созданию биологического оружия

ChatGPT учил делать яды. Я, правда, сильно сомневаюсь, что вот так любой школьник сможет по инструкциям синтезировать рицин, но для упоротых, действительно, семь верст не крюк. Вот набор ссылок: WSJ: прошлым летом сотни пользователей по всему миру спрашивали ChatGPT, как изготовить яды и биологическое оружие. Модели отвечали пошаговыми инструкциями — по словам сотрудников OpenAI, достаточно простыми для старшеклассника, изучающего биологию. Оригинал: https://www.wsj.com/tech/ai/openai-chatbot-biological-weapons-poison-3d808e6c Спрашивали, как превратить возбудителей инфекций в пригодные для вдыхания частицы и как изменить вирус кори, чтобы он обходил вакцину. Бот отвечал. Один пользователь интересовался рицином и упоминал намерение убить родителей — инструкции получил. https://www.cryptopolitan.com/chatgpt-bioweapon-expose-legal-blind-spot/ Специалисты по биологии и терроризму позже изучили переписки и назвали часть ответов смертельно точными. https://gizmodo.com/report-says-hundreds-of-users-asked-chatgpt-about-bioweapons-and-poisons-and-it-answered-2000791111 Летом 2025 года OpenAI сама пометила GPT-5 как высокорисковую модель. Осенью категорию риска понизила. Руководство говорило сотрудникам, что модели не должны слишком часто отказывать — иначе пострадают медицинские исследователи. https://the-decoder.com/hundreds-asked-chatgpt-for-poison-and-bioweapon-recipes-and-some-got-step-by-step-high-school-level-guides/ Главное здесь не биология, а дыра в регулировании. OpenAI блокировала аккаунты, но правоохранителей не уведомляла. Закон США этого и не требует: компании сами решают, что считать угрозой. https://www.ibtimes.co.uk/ai-chatbots-biological-threat-queries-1810670 Отдельно: NBC News в тестах четырёх моделей OpenAI получила сотни ответов с инструкциями по взрывчатке, напалму и маскировке биологического оружия — обычным джейлбрейк-промптом. https://www.nbcnews.com/tech/security/chatgpt-safety-systems-can-bypassed-weapons-instructions-rcna225788 Похожие вопросы задавали Claude, Gemini и Grok. Были ли это реальные попытки или проверка границ — неизвестно. Открытый вопрос: чат-боты создают новый риск или лишь ускоряют доступ к тому, что и так лежит в открытых источниках.