Плохая система всегда побеждает хорошего человека
В книге «Неуязвимость» (в оригинале — Meltdown) специалисты по управлению рисками Крис Клирфилд и Андраш Тилчик рассказывают о том, почему окружающие нас системы, которые обеспечивают наш комфорт и на которые мы всецело полагаемся, дают сбои в самое неожиданное время — почему происходят срывы сроков, задержки и техногенные катастрофы и как сделать системы более надежными.
Есть два фактора, влияющих на уязвимость систем
Первый. Насколько система линейна или нелинейна. В линейной системе, похожей на конвейер, процесс производства осуществляется поэтапно. Если на каком-то этапе что-то случается, то ошибка обнаруживается и производство останавливается. В нелинейной системе взаимодействие гораздо более сложное, типичный пример — АЭС, где разные части системы взаимозависимы, они взаимодействуют сложным и запутанным образом и влияют друг на друга. Если небольшая ошибка может привести к катастрофе, значит, система сложная и нелинейная.
Второй фактор — насколько система жестко связана. Предусмотрен ли в ней запас времени или иных ресурсов для устранения ошибки, позволяет ли она вообще ошибаться. Если в системе нет такого зазора, то даже мельчайшая ошибка может всю ее вывести из строя. Для этой системы требуется абсолютная точность. Ошибка, нарушение порядка действий — все ведет к катастрофе.
Проблема разума и тела
Развитие технологий и усложнение систем — это одна проблема. Другая проблема состоит в том, что наш разум и наши тела формировались в совершенно иных условиях и они не приспособлены к взаимодействию со сложными системами.
Первое затруднение — наша склонность чрезмерно полагаться на свою интуицию. Люди — очень плохие прогнозисты. Психологи Дон Мур и Уриель Харан выяснили, что когда люди на 90 процентов уверены в своем прогнозе, они оказываются правыми менее чем в половине случаев. Это касается всего — сроков выполнения проектов, возможных рисков, перспектив и т. д. Если наша способность прогнозировать не корректируется средой, то мы не можем ее развить. Мы должны приучить себя сознательно сомневаться в своих прогнозах.
Другая наша склонность — замалчивать ошибки и не придавать им значения.
Третья разрушительная тенденция — склонность к соглашательству и подчинение мнению авторитета.
