Накопление ошибок в сложных системах
Д@evidencebasedmanавтор про «it»
1 недРазмышление о природе ошибок, их накоплении и важности создания систем для их быстрого обнаружения и исправления.
Понимание того, как мелкие ошибки превращаются в системные сбои, помогает лучше управлять рисками в работе.
- Критически важно выявлять ошибки на ранних этапах, пока они не накопились.
- Культура открытого признания ошибок позволяет системе учиться и становиться устойчивее.
- Скрытие проблем лишает команду возможности выработать механизмы защиты от подобных инцидентов в будущем.
Накопление ошибок
Ошибки — они как тараканы: при свете — разбегаются.
Одна ошибка редко приводит к коллапсу всей системы. С маленькими ошибками справляется большинство систем. Хотя бывают случаи когда маленькая ошибка приводит к значительным последствиям. Например, один неверный поворот руля и мировая торговля замерла на 6 дней, когда контейнеровоз Эвер Гивен блокировал Суэцкий канал. (Хотя и там не все так просто: наложился сильный ветер, плюс в прессе упоминали технические неполадки).
В большинстве случаев ошибки и неполадки должны накопиться до определенного предела, чтобы произошла авария. Это видно из расследований, что авариям предшествует множество ошибок и маленьких неполадок, ошибок в коммуникации и т.д.
Если сразу обнаруживать и корректировать ошибки, то вероятность серьезных происшествий снизится.
В каких-то случаях это понятно интуитивно. Новые сотрудники будут ошибаться, и это естественно. Смысл обучения и подготовки сотрудников как раз в том, чтобы исправлять и корректировать эти ошибки. Если закрепиться неправильный способ выполнения, то откорректировать его будет гораздо сложнее.
В сложных системах, где влияет множество факторов и ситуация постоянно меняется — там могут ошибаться даже опытные сотрудники, поэтому необходимо быстро и четко понимать, что случилось не так.
Это как медсестры обнаружили, что ввели слишком большую дозу лекарства пациенту. Благодаря тому, что это быстро заметили, то негативных последствий удалось избежать.
Система обнаружения и исправления ошибок — это своего рода иммунная система. Как только мы поняли что за ошибка и научились с ней работать — ошибки подобного рода нам не страшны. Это как ослабленный вирус: обработали, научились справляться.
Если же мы замели ошибку «под ковер», то мы ничему не научились, мы не поняли как справляться с подобной ошибкой.
Чтобы обнаружить и исправить ошибки, нам нужно выполнять 2 параметра:
1) обнаруживать ошибки максимально быстро;
2) обнаруживать ошибки максимально полно.
#чф #ошибки
Кратко (AI)
Автор рассуждает о том, что серьезные аварии в сложных системах обычно являются результатом накопления множества мелких ошибок. Для предотвращения катастроф предлагается выстраивать «иммунную систему» компании, которая позволяет быстро обнаруживать и исправлять недочеты, вместо того чтобы скрывать их.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖