Claude удалил 700 ГБ данных разработчика из-за ошибки в скрипте

Claude удалил 700 ГБ данных разработчика во время теста скрипта для защиты от удаления Ироничная история произошла с программистом Себастьяном Гийемо. Он заметил, что ИИ-агенты оставляют много временных файлов в /tmp, и попросил Claude написать скрипт, который автоматически изолирует агентов и очищает за ними мусор. Чтобы убедиться в безопасности скрипта, Claude решил провести предварительный тест. В процессе система безопасности Anthropic сочла операцию потенциально опасной и автоматически переключила модель на более старую версию. Модель правильно рассчитала ограничения, но допустила банальную ошибку в коде очистки: использовала одно и то же имя переменной для безопасного пути и папки под удаление. В итоге скрипт начал удалять домашний каталог разработчика и успел стереть около 700 ГБ данных, пока процесс не остановили вручную. Полного бэкапа у разработчика не было, но часть проектов удалось спасти через Git и логи сессий. При этом саму папку /tmp скрипт так и не очистил. Хорошее напоминание запускать любые ИИ-скрипты, работающие с файловой системой, только в изолированных контейнерах. #новости · yt · tg · ig