Инцидент с удалением данных при работе с ИИ-агентами
v@vcnewsмедиа / агрегатор
15 чРазработчик случайно удалил 700 ГБ данных из-за ошибки в работе ИИ-агентов Fable 5 и Opus 4.8.
Этот случай демонстрирует риски использования ИИ-агентов для управления файловой системой.
- ИИ-агенты могут совершать критические ошибки при выполнении команд с правами доступа.
- Автоматическое переключение между моделями может приводить к непредсказуемым результатам.
- Необходим строгий контроль и изоляция сред при работе с автономными ИИ-инструментами.
Claude случайно удалил 700 ГБ данных из домашнего каталога разработчика.
Он попросил Fable 5 очистить мусорные файлы, которые оставляют ИИ-агенты. Но система безопасности переключила запрос на Opus 4.8, и та допустила ошибку
vc.ru/ai/3102692
Кратко (AI)
Разработчик потерял 700 ГБ данных из своего домашнего каталога после того, как ИИ-агент допустил ошибку при выполнении команды очистки. Запрос, адресованный Fable 5, был перенаправлен системой безопасности на модель Opus 4.8, которая некорректно обработала задачу.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖