Те явления, в которых возникает ничем не ограниченная положительная обратная связь, являются основными источниками глобальных рисков, то есть способны распространиться по всей Земле. Этот вопрос подробно рассмотрен мной в статье «Проблема стабильного развития и перспективы глобальных катастроф» [Турчин 2010].
Иначе говоря, имеется прямая связь между неограниченностью положительной обратной связи и глобальностью риска. Неограниченность положительной обратной связи возникает в том случае, когда самоусиливающийся процесс не сопровождается конкурирующими тормозящими процессами, что возможно лишь в том случае, когда он обладает неким принципиально новым качеством, до того отсутствовавшим в системе. Например, гипотетическая микроскопическая черная дыра, возникшая на Большом адроном коллайдере, обладала бы новым качеством, до того отсутствовавшим на Земле, и поэтому могла бы расти неограниченно, не встречая сопротивления.
Условием возникновения качественно новых явлений, не встречавшихся до того в природе, является человеческая деятельность, и в первую очередь — технический прогресс. Более того, здесь принципиальную роль играет эффект ускорения научно-технического прогресса, который приводит ко все большему разрыву между новым и старым. В результате новое оказывается настолько качественно превосходящим старое, что оно без труда может превратить это качественное превосходство в количественное. Данный процесс имеет как научно-технический, так и социальный аспект. Если первый связан с довольно простыми формулами экспоненциального роста числа бактерий, транзисторов на чипе или массы черной дыры, то второй связан с явной неспособностью человеческой цивилизации адекватно предвидеть свое будущее в условиях быстрых изменений.
Примеры:
ИИ — неограниченное самоусиление.
Нанороботы — неограниченная саморепликация, серая слизь.
Биологическое оружие — неограниченное размножение вируса или бактерии.
Чёрная дыра в коллайдере — неограниченное поглощение материи; фазовый переход ложного вакуума.
Коллапс сверхновой звезды (гамма-всплеск).
Распространение SETI-атаки по Вселенной.
Взрыв ядерной бомбы (цепная реакция).
Глобальное потепление, приводящее к высвобождению метана и двуокиси углерода из болот.
9. Старение.
Социальные явления:
Самоускоряющийся технологический прогресс
Гонка вооружений. (Но в ходе холодной войны она достигла своего естественного порога в виде надрыва
СССР)
Рост численности населения
Исчерпание ресурсов
Распространение оружия массового поражения и опасных знаний.