Можно сформулировать своего рода «Закон Мура» в отношении глобальных катастроф. Каждые N лет (примерно оцениваемое мной в 30 лет) удваивается известное нам число природных катастроф, которые могут угрожать…
Структура глобальной катастрофы
Технологическая Сингулярность
Одно из глубоких наблюдений в духе идеи «кризиса кризисов» изложено в статье А. Д. Панова «Кризис планетарного цикла Универсальной истории и возможная роль программы SETI в посткризисном развитии»…
Война как сценарный фактор
Войны были всю историю человечества. Сама по себе обычная война между людьми не может привести к человеческому вымиранию, поскольку всегда остаются выжившие победители. По Клаузевицу, бывают войны двух…
Системные кризисы
Возможно ли, чтобы глобальная катастрофа произошла не по той довольно очевидной схеме, которую мы описали выше? То есть не зародившись в одной точке в конкретный момент времени и…
Возможные общелогические ошибки в рассуждениях о глобальных рисках
1. Путаница между вероятностью, как мерой изменчивости объекта, и степенью уверенности, как мерой информации об объекте. Первое понятие относится к вероятностному процессу, например, радиоактивному распаду, а второе к…
Глобальные катастрофы и текущая ситуация в мире
С одной стороны, может показаться, что вращение политической жизни в современном мире постепенно сосредотачивается вокруг предотвращения отдалённых глобальных катастроф, возможными источниками которых считаются в первую очередь три: развёртывание…
Старение вида
Есть концепция, что виды могут стареть. Майкл Фут и др. в статье «Взлет и падение видов: новые данные подтверждают старую идею «эволюционного цикла» [Foote et al 2007] пишут:…
Астероидная опасность в контексте технологического развития
Нетрудно заметить, что прямые риски столкновения с астероидом убывают по мере технологического развития. В первую очередь, они убывают за счёт более точного измерения этой самой вероятности — то…
Армии крупных боевых роботов, выходящие из-под контроля
Хотя армия США определённо нацелена на полную автоматизацию и замену людей роботами, до достижения этого ещё не менее десяти лет, а скорее всего, значительно больше. Как мы уже…
Система целей
Ключевым после решения проблем создания ИИ является вопрос системы целей ИИ, или, иначе говоря, его «дружественности», хотя бы по отношению к хозяевам. Здесь два варианта: или ИИ строго…
Ядерный терроризм как фактор глобальной катастрофы
Само по себе явление ядерного терроризма — то есть анонимный взрыв бомбы небольшой мощности — не может привести к человеческому вымиранию. Вместе с тем такое событие резко усилит…
Рассматриваемый промежуток времени: XXI век
Есть два различных класса прогнозов — о том, что именно произойдет, и о том, когда это случится. Идеальный прогноз должен отвечать на оба эти вопроса. Однако, поскольку до…
Ускорение субъективного времени с целью избежания катастрофы
Сигналы в нейронах распространяются со скоростью примерно 30 метров в секунду, в том время как сигналы в компьютерах распространяются со скоростью света, то есть в 10 миллионов раз…
Криптовойна
Важным фактором будущих глобальных рисков является появление возможности «криптовойн» — то есть внезапных анонимных ударов, когда неизвестно, кто нападающий, а иногда даже неочевиден сам факт нападения (термин С….
Сопоставление различных технологических рисков
Для каждой сверхтехнологии можно ввести фактор опасности Y=a*b, который отражает как вероятность возникновения этой технологии (а), так и вероятность её злонамеренного применения (b). Например, ядерные технологии уже существуют…
События, изменяющие вероятность глобальной катастрофы. Определение и общие соображения
Будем называть глобальным риском второго рода любое событие, которое значительно повышает вероятность вымирания человечества. Сочетание таких событий создаёт окно уязвимости. Исторически известно, что вымерло 99 % видов живых…
Как когнитивные искажения, которые могут касаться любых проблем, влияют на оценку глобальных рисков
1. Основной причиной человеческих ошибок является сверхуверенность. Сверхуверенность означает повышенную убеждённость в правильности своей картины миры и неспособность её существенно изменить при поступлении новой информации. Иначе говоря, сверхуверенность…
Бесконечность Вселенной и вопрос об окончательности человеческого вымирания
Вполне материалистическим является предположение о бесконечности Вселенной. Если это так, то можно ожидать, что в ней возникают или уже существуют все возможные миры. В том числе в ней…
Риски, связанные с размыванием границ между человеческим и нечеловеческим
Мощные процессы генетической модификации людей, протезирования частей тела, в том числе элементов мозга, соединения мозга с компьютером, переноса сознания в компьютер и т. д. создадут новый тип рисков…
Падение астероидов
Падение астероидов и комет часто рассматривается как одна из возможных причин вымирания человечества. И хотя такие столкновения вполне возможны, шансы тотального вымирания в результате них, вероятно, преувеличиваются. См….