Anthropic: ИИ-черви могут появиться к концу года
Х@htech_plusисследователь
1 недКоманда Frontier Red Team компании Anthropic предупреждает о риске появления самореплицирующихся ИИ-агентов для устройств интернета вещей к концу года.
Появление самораспространяющегося ИИ может создать новые критические уязвимости для бытовой и промышленной электроники.
- Риск автоматизированного заражения умных устройств, таких как роботы-пылесосы или холодильники.
- Сложность нейтрализации подобных угроз из-за способности ИИ к саморепликации.
- Необходимость пересмотра стандартов безопасности для IoT-устройств в условиях развития автономных агентов.
Anthropic: «ИИ-черви смогут инфицировать устройства интернета вещей уже к концу года»
Хотя функциональный «самокопирующийся» агент ИИ еще не создан, отдельные элементы уже существуют. Команда специалистов по безопасности Frontier Red Team компании Anthropic назвала примерный срок, когда малые модели смогут собрать весь пазл целиком, — конец этого года. По их мнению, такие модели скоро смогут самореплицироваться на коммерческих устройствах «интернета вещей», например, умных холодильниках и роботах-пылесосах, и остановить их будет трудно. Управляться такая «цифровая плесень» сможет передовыми моделями.
https://hightech.plus/2026/10/14/anthropic-ii-chervi-smogut-inficirovat-ustroistva-interneta-veshei-uzhe-k-koncu-goda
Кратко (AI)
Специалисты Frontier Red Team из компании Anthropic прогнозируют, что к концу года могут появиться самореплицирующиеся ИИ-агенты, способные заражать устройства интернета вещей. Хотя полноценных «ИИ-червей» пока не существует, эксперты предупреждают, что текущие возможности моделей приближают нас к созданию таких угроз.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖