Anthropic пресекла попытки использования Claude для создания биооружия
Х@htech_plusисследователь
1 месAnthropic заблокировала пять случаев использования ИИ-модели Claude для потенциальной разработки биологического оружия в период с 2025 по 2026 год.
Это важный прецедент того, как разработчики ИИ контролируют опасное использование своих технологий в реальном времени.
- Демонстрирует реальные риски использования больших языковых моделей для создания оружия массового поражения.
- Подтверждает эффективность систем мониторинга и безопасности, внедренных в современные ИИ-платформы.
- Показывает, что даже эксперты в биологии и химии пытаются использовать ИИ для обхода этических ограничений.
Anthropic заблокировала 5 попыток использования ИИ для разработки биологического оружия
Компания Anthropic сообщила, что пресекла пять случаев, когда исследователи с глубокими знаниями в области биологии и химии использовали модель Claude способами, которые могли привести к разработке биологического оружия. Компания не смогла установить, намеревались ли эти люди действительно причинить кому-то вред, но все равно заблокировала пользователей ввиду серьезности потенциальных последствий.
При этом как минимум одна попытка была прямо связана с военным исследовательским институтом неназванного государства, а в трех других случаях запросы касались боевого применения вируса оспы. Инциденты произошли в период с декабря 2025 по август 2026 года и описаны в новом отчете компании о киберугрозах.
https://hightech.plus/2026/09/11/anthropic-zablokirovala-5-popitok-ispolzovaniya-ii-dlya-razrabotki-biologicheskogo-oruzhiya
Кратко (AI)
Компания Anthropic опубликовала отчет, в котором сообщила о блокировке пяти пользователей, пытавшихся использовать модель Claude для разработки биологического оружия. Инциденты, включавшие запросы о боевом применении вируса оспы, произошли в период с конца 2025 по август 2026 года.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖