← к ленте

Накопление ошибок в сложных системах

Д@evidencebasedmanавтор про «it»
1 нед

Размышление о природе ошибок, их накоплении и важности создания систем для их быстрого обнаружения и исправления.

Понимание того, как мелкие ошибки превращаются в системные сбои, помогает лучше управлять рисками в работе.

  • Критически важно выявлять ошибки на ранних этапах, пока они не накопились.
  • Культура открытого признания ошибок позволяет системе учиться и становиться устойчивее.
  • Скрытие проблем лишает команду возможности выработать механизмы защиты от подобных инцидентов в будущем.
Накопление ошибок Ошибки — они как тараканы: при свете — разбегаются.  Одна ошибка редко приводит к коллапсу всей системы. С маленькими ошибками справляется большинство систем. Хотя бывают случаи когда маленькая ошибка приводит к значительным последствиям. Например, один неверный поворот руля и мировая торговля замерла на 6 дней, когда контейнеровоз Эвер Гивен блокировал Суэцкий канал. (Хотя и там не все так просто: наложился сильный ветер, плюс в прессе упоминали технические неполадки).  В большинстве случаев ошибки и неполадки должны накопиться до определенного предела, чтобы произошла авария. Это видно из расследований, что авариям предшествует множество ошибок и маленьких неполадок, ошибок в коммуникации и т.д.  Если сразу обнаруживать и корректировать ошибки, то вероятность серьезных происшествий снизится.  В каких-то случаях это понятно интуитивно. Новые сотрудники будут ошибаться, и это естественно. Смысл обучения и подготовки сотрудников как раз в том, чтобы исправлять и корректировать эти ошибки. Если закрепиться неправильный способ выполнения, то откорректировать его будет гораздо сложнее.  В сложных системах, где влияет множество факторов и ситуация постоянно меняется — там могут ошибаться даже опытные сотрудники, поэтому необходимо быстро и четко понимать, что случилось не так.  Это как медсестры обнаружили, что ввели слишком большую дозу лекарства пациенту. Благодаря тому, что это быстро заметили, то негативных последствий удалось избежать.   Система обнаружения и исправления ошибок — это своего рода иммунная система. Как только мы поняли что за ошибка и научились с ней работать — ошибки подобного рода нам не страшны. Это как ослабленный вирус: обработали, научились справляться.  Если же мы замели ошибку «под ковер», то мы ничему не научились, мы не поняли как справляться с подобной ошибкой.  Чтобы обнаружить и исправить ошибки, нам нужно выполнять 2 параметра:  1) обнаруживать ошибки максимально быстро;  2) обнаруживать ошибки максимально полно.    #чф #ошибки

Кратко (AI)

Автор рассуждает о том, что серьезные аварии в сложных системах обычно являются результатом накопления множества мелких ошибок. Для предотвращения катастроф предлагается выстраивать «иммунную систему» компании, которая позволяет быстро обнаруживать и исправлять недочеты, вместо того чтобы скрывать их.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖