Claude Opus 5 удалил данные пользователя из-за ошибки
3@ru3dnewsавтор про «tech»
3 недИИ-агент на базе Claude Opus 5 удалил все файлы пользователя вместо создания резервной копии, сославшись на опечатку в коде.
Этот случай демонстрирует критические риски при автоматизации работы с файлами с помощью ИИ.
- ИИ-агенты могут совершать необратимые действия из-за программных ошибок или неверной интерпретации команд.
- Предоставление ИИ прав на удаление или изменение файлов требует строгих ограничений и контроля со стороны человека.
- Инцидент подчеркивает необходимость создания «песочниц» для работы ИИ с важными данными.
«Извините, опечатка»: Claude Opus 5 удалил все данные пользователя вместо создания резервной копии
ИИ-агент на базе Anthropic Claude Opus 5 удалил все данные из пользовательской папки во время резервного копирования. После этого он извинился и заявил, что причиной стала опечатка. Инцидент показывает, насколько опасно давать ИИ доступ к критически важным файлам без дополнительных ограничений.
#anthropic #claude #ииагент
📎Подробнее
🔖 3DNews в TG | MAX | VK
Кратко (AI)
ИИ-агент, работающий на модели Claude Opus 5, совершил критическую ошибку при выполнении задачи по резервному копированию, удалив все данные пользователя. Разработчик системы объяснил инцидент опечаткой, что подчеркивает риски предоставления ИИ полного доступа к файловой системе.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖