ошибкиСбросить фильтр ×

Claude по ошибке удалил 700 ГБ данных разработчика при тесте скрипта-очистки

Программист Себастьян Гийемо попросил Claude написать скрипт, который изолирует ИИ-агентов и автоматически чистит за ними временные файлы в /tmpi — он заметил, что агенты оставляют много мусора. Для проверки безопасности скрипта Claude решил провести предварительный тест, но система безопасности Anthropic посчитала операцию потенциально опасной и переключила модель на более старую версию (Opus 4.8i) — по данным vc.ru, изначально использовался интерфейс Fable 5.

Переключённая модель верно рассчитала ограничения доступа, но допустила банальную ошибку в коде: назвала одинаковой переменной и безопасный путь, и папку, предназначенную для удаления. В результате скрипт начал стирать домашний каталог разработчика и успел удалить около 700 ГБ данных до того, как процесс остановили вручную.

700 ГБобъём удалённых данных

Полный разбор →

Цена ошибки: почему авиация и медицина учат нас работать с рисками

Д@evidencebasedmanмедиа / агрегатор
1 мес

Топ-5 ошибок начинающего фаундера

П@neural_proseccoмедиа / агрегатор
1 мес

Уроки внедрения ML-моделей в банковские продукты

Н@not_boring_dsмедиа / агрегатор
1 мес

История о маркетинговой ошибке Sony

П@mflenovмедиа / агрегатор
1 мес
Я слышал, что Sony тоже раздавал PlayStation за очень низкую цену из-за ошибки на сайте, но это было до меня, поэтому детали ошибки не скажу. При мне был случай, когда запустили промоушн - потрать $50 на любые товары на сайте и оплати их кредитной картой Sony и получи 5,000 поинтов обратно. 5,000 поинтов это $50. Получается, что можно было получить что-то практически бесплатно. Ошибку увидели уже после публикации сообщения о такой программе и поэтому пришлось выполнять её условия. Sony в этом отношении всегда выполняли то, что заявили, даже в случае ошибок.
История о маркетинговой ошибке Sony

Психологическая безопасность как основа работы с ошибками

Д@evidencebasedmanмедиа / агрегатор
2 мес

Культура обвинения как препятствие для анализа ошибок

Д@evidencebasedmanмедиа / агрегатор
2 мес

Безопасность страниц ошибок 404 и 500

A@qachanellавтор про «it»
2 мес
Совет от тестировщика 82/∞ : Страница 404 и 500 не должна рассказывать ничего лишнего. Стектрейс, путь на сервере, версия фреймворка на странице ошибки: подарок не пользователю, а тому, кто ищет уязвимости. Проверяйте страницы ошибок отдельным пунктом, а не мимоходом.
Безопасность страниц ошибок 404 и 500

Почему LLM совершают глупые ошибки в простых задачах

Т@tech_priestessAI-инженер
2 мес
Почему LLM совершают глупые ошибки в простых задачах

Культура отношения к ошибкам в компаниях

Д@evidencebasedmanмедиа / агрегатор
2 мес

Накопление ошибок в сложных системах

Д@evidencebasedmanмедиа / агрегатор
2 мес

Проблема с установкой неподписанных драйверов на Windows

T@extremecodeAI-инженер
2 мес

Почему успешные компании теряют лидерство

Ф@Founder_Startupмедиа / агрегатор
2 мес
Почему успешные компании теряют лидерство

Совет по обработке массовых операций

A@qachanellавтор про «it»
2 мес
Совет от тестировщика 73/∞ : Частичный отказ массовой операции. Загрузили файл на 100 строк, три из них битые. Хорошая система обработает 97 нормальных и покажет отчёт по трём сломанным, а не откатит всё или упадёт молча.
Совет по обработке массовых операций

Ценность ошибок: как Netflix учится на неудачах

Д@evidencebasedmanмедиа / агрегатор
2 мес

Концепция «хороших» и «плохих» ошибок в процессах

Д@evidencebasedmanмедиа / агрегатор
2 мес

Анализ ошибок в ТЗ на проектирование лодки

Д@blog_toxaавтор про «it»
2 мес
Я тут на выходных решил потрогать воды и рыб различных на Вуоксе. Итак, развлечение прекрасное! Но данный комплект — отличный пример плохо сформированного ТЗ ради скорости!😀 Прошу в комментарии предложить гипотезы, что не так случилось с ТЗ на эту лодку?💀 Через некоторое время отпишу правильный вариант!
Анализ ошибок в ТЗ на проектирование лодки

Когда ошибки полезны: переосмысление неудач в процессах

Д@evidencebasedmanмедиа / агрегатор
2 мес

Проблема с опечатками в модели Opus 5.0

Т@marketingandhorsesAI-инженер
2 мес

Модель возникновения ошибок в системах

Д@evidencebasedmanмедиа / агрегатор
2 мес

Что считать ошибкой в рабочих процессах

Д@evidencebasedmanмедиа / агрегатор
2 мес

Короткое собеседование с кандидатом

К@kutergin_on_fireмедиа / агрегатор
2 мес
Самое короткое собеседование Как-то я собеседовал продекта с хорошим резюме и он попросил подробнее рассказать о компании. На всякий случай уточнил у него, что он знает о нашем продукте. — Практически ничего, кроме описания в вакансии. — То есть вы даже на сайт не зашли и не гуглили? — Не было времени нормально изучить. На этом я поблагодарил его за интерес и встречу мы закончили.

Почему технологические стартапы создают бесполезные продукты

Х@habr_comмедиа / агрегатор
2 мес
Стартап привлёк $120 млн, чтобы научить машину выжимать сок из пакета. Потом журналисты взяли тот же пакет и сделали всё руками, причем быстрее. О чем думали люди, которые создавали проект? Таких примеров много. Есть, например, вибрирующая вилка за $99, солонка с Alexa и отдельный телефон только для Twitter. Все эти устройства решали вроде бы наболевшие задачи, только был один изъян. Каждый раз людям надо было покупать новое устройство, регистрироваться не пойми где и так далее. Автор собрал технологических химер разных лет и разобрал, почему из хороших идей получаются бесполезные продукты, но никто сразу этого не понимает.
Почему технологические стартапы создают бесполезные продукты

Samsung подтвердила программный сбой с покраснением экрана Galaxy S26 Ultra

AI-редакция
2 источника · показать все· свернуть
собирается · 2обновлено 2 мес назад

Samsung официально признала проблему с красноватым оттенком/пятном в центре дисплея Galaxy S26 Ultrai. По данным компании, причина не в браке матрицы, а в ошибке алгоритмов управления экраном — то есть дефект программный, а не аппаратный.

Samsung уже уведомляет владельцев устройства и предлагает два пути решения: обращение в сервисный центр или ожидание программного обновления, которое устранит проблему удалённо.

Полный разбор →

Ошибка Госдепартамента США в карте Африки

Б@blognotAI-инженер
2 мес
Когда-то каждую пятницу в интернете случалось что-то смешное — ну, или пыталось. Конкретно сегодня еще не закончилось, но вот вам картинка, вполне достойная пятницы — поехал, значит, высокопоставленный сотрудник госдепартамента США на конференцию по борьбе со СПИДом и, рассказывая представителям разных стран, включая африканских, показал им такую карту Африки. Ключевая особенность карты — ни одна из подписанных стран не имеет территории такой формы и не находится там, куда её поместили сотрудники госдепа. Вроде бы там даже водяной знак OpenAI нашли, но какая разница, кто именно в США галлюцинирует.
Ошибка Госдепартамента США в карте Африки

Claude Opus 5 удалил базу данных пользователя

C@campcodeAI-инженер
2 мес
Классика работы с ИИ: за 10 минут Claude Opus 5 стёр пользователю всю базу данных. Причём более ранние модели, с которыми разработчик вайбкодил проект, так его не подставляли, поэтому новенькая Opus 5 застала врасплох — бэкапов не было. Модель сама заметила катастрофу и написала, что «это её вина». Я уверен, что ИИ делают это намеренно, но не могу доказать 😁
Claude Opus 5 удалил базу данных пользователя

Размер системы и масштаб последствий ошибок

Д@evidencebasedmanмедиа / агрегатор
2 мес
Ещё ↓