Структура глобальной катастрофы

Человечество не обречено на вымирание. Даже если у нас мало шансов, то обязательно стоит бороться за бесконечно большое будущее. Позитивным фактом является то, что, начиная с 2000 года…

Часто путают глобальные катастрофы, ведущие к вымиранию человечества (англ. термин «existential risks))), и любые другие колоссальные катастрофы, которые могут принести огромный ущерб, отбросить цивилизацию далеко назад и истребить…

Многие виды животных кончили тем, что были вытеснены более эффективными видами, или мутировали в них. Возникновение такого вида путём естественной эволюции в ближайшие 100 лет невозможно. Даже рост…

Древняя человеческая память в качестве самой страшной катастрофы доносит воспоминания о колоссальном наводнении. Однако на Земле нет такого количества воды, чтобы уровень океана поднялся выше гор. (Сообщения о…

Возможность этого риска впервые указана Дрекслером, и исследована в статье Р. Фрейтаса «Проблема серой слизи» [Freitas 2000]. В отношении нанороботов, равно как и ИИ, нам трудно оценить вероятность…

Когда мощный ИИ возникнет, он вынужден будет создавать свои копии (возможно, уменьшенные), чтобы отправлять их, например, в экспедиции на другие планеты или просто загружать на другие компьютеры. Соответственно,…

Угроза ядерной катастрофы часто недооценивается или переоценивается. Недооценка в основном связана с рассуждениями о том, что раз катастрофы давно не было, то она маловероятна. Это неверное рассуждение, поскольку…

Далее я привожу известные мне оценки ведущих экспертов в этой области, которые публиковали исследования с оценками рисков человеческого вымирания (но эти оценки могут быть искажены в сторону пессимизма,…

Как отмечает А.П. Назаретян [Назаретян 2001], людям свойственно постепенно подстраивать своё социальное поведение к факту существования новых видов оружия. Когда карабины попали в руки горных кхмеров, они перестреляли…

Любая защита от глобального риска опирается на некую систему глобального наблюдения и контроля. Чем опаснее риск и чем в большем числе мест он может возникнуть, тем тотальнее и…

Мы можем также измерить вероятность апокалипсического сценария, определив количество денег, времени и прочих ресурсов, которые для него потребуются, — и сравнив их с общем количеством доступных ресурсов. Если…

Следующим сценарным фактором является уязвимость сверхсложных систем к бесконечно малым воздействиям — что можно использовать для организации диверсий. (За счёт нелинейного сложения несколько очень слабых событий могут иметь…

1.  Путаница между вероятностью, как мерой изменчивости объекта, и степенью уверенности, как мерой информации об объекте. Первое понятие относится к вероятностному процессу, например, радиоактивному распаду, а второе к…

С одной стороны, может показаться, что вращение политической жизни в современном мире постепенно сосредотачивается вокруг предотвращения отдалённых глобальных катастроф, возможными источниками которых считаются в первую очередь три: развёртывание…

Есть концепция, что виды могут стареть. Майкл Фут и др. в статье «Взлет и падение видов: новые данные подтверждают старую идею «эволюционного цикла» [Foote et al 2007] пишут:…

Нетрудно заметить, что прямые риски столкновения с астероидом убывают по мере технологического развития. В первую очередь, они убывают за счёт более точного измерения этой самой вероятности — то…

Как мы уже говорили, нанотехнологии позволят создавать очень эффективное оружие, которое способно истребить всех людей, даже не обладая способностью к саморепликации. Облако нанороботов может распространиться по некой местности…

Уже сейчас между компаниями, разрабатывающими ИИ, идёт жёсткая конкуренция и за внимание инвесторов и за правильность идей именно их способа создания универсального ИИ. Когда некая компания создаст первый…

Сокращение ядерных вооружений должно радовать борца с глобальными рисками, так как снижает вероятность глобальной катастрофы. Уменьшение суммарного числа зарядов у двух сверхдержав уменьшает размер потенциальной максимальной катастрофы (которая…

Чтение этого раздела можно пропустить без ущерба для дальнейшего понимания текста. Основной вывод состоит в том, что невозможно вычислить объективные вероятности глобальных катастроф, поскольку это уникальные события, и…