Неуязвимость. Отчего системы дают сбой и как с этим бороться

Такой подход – снижение сложности системы и добавление в нее «зазора» – помогает нам уйти из опасной зоны

Сложность и жесткая связанность систем создают опасные зоны, в которых небольшие ошибки приводят к ка тастрофам.

Ни одна из систем не подходит полностью под придуманные Перроу категории, но некоторые из них более сложные и жестко связанные, чем другие. Вопрос в том, на сколько? Чтобы понять это, мы можем отобразить системы на схеме

Сбой в одной части легко воздействует на другие. Отсутствие жесткого соединения означает обратное: между частями системы большой зазор, поэтому, когда один компонент выходит из строя, вся система при этом выживет.

Сложные системы скорее похожи на тонкую паутину, чем на сборочный конвейер.

Фундаментальным свойством сложных систем является то, что мы не можем обнаружить все существующие в них проблемы, просто размышляя о них. Сложность системы может вызывать возникновение таких непонятных и редких взаимодействий, что предсказать большинство цепочек ошибок, которые могут возникнуть, практически невозможно.

должны подходить к сложности и жесткости соединений в системах как к важнейшим переменным всегда, когда что-либо планируете или строите

маленькие ошибки перерастают в огромные неудачи.

Субъективные интервальные оценки вероятностей» (Subjective Probability Interval Estimates – SPIES)

Когда вы считаете банкноты в ящике кассового аппарата или картофель на прилавке, то вам ясно, сколько у вас того и другого. Но когда в большой компании подсчитываются прибыли от будущих транзакций или де лается попытка оценить стоимость сложного финансового продукта, то возникает гораздо больше простора для неоднозначных толкований.