Системный технологический кризис — наиболее вероятный сценарий глобальной катастрофы

Это утверждение опирается на следующие посылки, которые мы по отдельности обсудили в предыдущих главах.

Большинство крупных технологических катастроф, начиная с катастрофы «Титаника», носили системный характер, то есть не имели какой-то одной причины, а возникали как проявления сложности системы в виде маловероятного непредсказуемого стечения обстоятельств с разных планов: проектирования, управления, систематических нарушений инструкций,

интеллектуальной слепоты и сверхуверенности, технических отказов и маловероятных стечений обстоятельств.

За счёт iVB/C-конвергенции и за счёт одновременности исчерпания взаимозаменяемых ресурсов мы получаем тот эффект, что все критические обстоятельства подтягиваются к одной дате, и дата эта — в районе 2030 года.

Обвал технологической цивилизации, начавшись даже с небольшой катастрофы, может принять форму устойчивого процесса, где одна катастрофа запускает другую, при этом в каждый момент времени силы разрушения превосходят сохранившиеся силы созидания. Это происходит по причине того, что раньше огромное количество сил разрушения сдерживалось, а затем они все одновременно высвободятся (исчерпание ресурсов, заражение среды опасными биоагентами, глобальное потепление). Эта способность одной катастрофы запускать другую связана с высокой концентрацией разных потенциально смертельных для человечества технологий — подобно тому, как где бы ни начался пожар на корабле, на котором очень много пороха, в конечном счёте взорвётся весь корабль. Другая метафора — если человек убегает от лавины, он должен бежать со всё большей скоростью, и всё меньшая задержка требуется, чтобы он попал под лавину большей силы. Третья метафора — перекристаллизация некого вещества с несколькими фазовыми состояниями в районе фазового перехода. Эта метафора означает быструю и принципиальную перестройку всей цивилизации, связанную с возникновением мощного ИИ.

По мере нарастания сложности нашей цивилизации нарастает вероятность внезапных непредсказуемых переходов в иное состояние (в духе «теории хаоса»), и одновременно нарастает наша неспособность предсказывать своё будущее и предвидеть последствия своих действий.

Чем выше уровень развития технологий, тем меньший сбой в их работе может привести к откату цивилизации.

Понравилась статья? Поделиться с друзьями:
Добавить комментарий
SQL - 48 | 0,130 сек. | 12.86 МБ