Рассуждение о Симуляции это логическая теорема, которую разработал Ник [Bostrom 2003] (мы уже упоминали её в контексте рисков внезапного отключения «Матрицы» и принципиально новых открытий). Вот как рассуждает…
Структура глобальной катастрофы
Непрямая оценка вероятности природных катастроф
Если не учитывать эффекты наблюдательной селекции, мы получаем очень хорошие шансы на выживание в XXI веке от любых природных (но не антропогенных) катастроф — от галактического до геологического…
Антропогенные риски, не связанные с новыми технологиями. Исчерпание ресурсов
Проблема исчерпания ресурсов, роста населения и загрязнения среды является системной, и в этом качестве мы рассмотрим её далее. Здесь же мы рассмотрим только, может ли каждый из этих…
Столкновение с превосходящими нас разумными силами во Вселенной
И религиозные сценарии о втором пришествии, и идеи об инопланетянах, и идеи о том, что мы живём в мире, смоделированном разумными существами — все эти идеи имеют в…
Проблема создания микроскопических роботов и нанотехнологии
Слово «нанотехнологии» в последние несколько лет употреблялось неоправданно часто. Этим термином стали называть любой коллоидный раствор. Поэтому важно напомнить, что в основе понятия о нанотехнологиях лежит идея Феймана…
Снижение человеческого интеллекта
Ещё одним риском можно признать утрату человеком разумности при сохранении жизни. В обществе всегда и так много малоразумных людей, а большинство достижений делается за счёт небольшого количества талантливых…
Вероятность глобальной катастрофы, вызванной ядерным оружием
В отношении рисков вымирания в результате применения ядерного оружия надо сложить вероятность двух вариантов: • классическая ядерная война, приводящая к вымиранию; • неклассическое применение ядерного оружия как машины…
Что изменилось за три года? Дополнение в 2010 году
Три года я пишу, читаю и перевожу на тему глобальных рисков. Как изменилась ситуация в этой области за прошедшее время? Самое главное — глобальной катастрофы не произошло. Не…
Возможная роль международных организаций в предотвращении глобальной катастрофы
Мы не знаем определённо, кто именно должен заниматься предотвращением глобальных катастроф. Хуже того, вероятно есть много организаций и частных лиц, готовых этим заняться, — кто против того, чтобы…
Месть как сценарный фактор
Месть является продолжением враждебности, но в высшей форме. Допустим, между двумя крупными державами произошла ядерная война, и одна из держав её полностью проиграла — ей нанесли неприемлемый ущерб,…
Рекуррентные риски
Любой глобальный риск, который был нами перечислен в первой половине этого текста, становится значительно более опасным, если он возникает многократно. Есть большая разница между однократной утечкой опасного вируса,…
Мир после глобальной катастрофы
Как бы ни была масштабна глобальная катастрофа, ясно, что вся Вселенная в ней не погибнет (если только это не распад метастабильного вакуума, но даже в этом случае останутся…
Ошибка как интеллектуальная катастрофа
Можно предложить следующую метамодель глобальных рисков: основным глобальным риском является, с одной стороны, то, что цивилизация одновременно порождает много разных глобальных рисков, а с другой стороны — принципиальная…
Интеграция различных непрямых оценок
Все приведённые выше непрямые оценки выполнены независимо друг от друга, хотя дают примерно одинаковые и неутешительные результаты, состоящие в том, что вероятность человеческого вымирания в XXI веке достаточно…
Глобальное потепление
Глобальное потепление связано как с рядом естественных природных процессов, так и с «суммой технологий», созданных человеком, поэтому к чисто природным рискам его можно отнести только условно. Глобальное потепление…
Ксенобиологические риски
Риски, состоящие в том, что на Землю может быть занесена жизнь из космоса, принимались руководством НАСА всерьёз, начиная с момента полёта на Луну. Хотя можно было утверждать, что…
Время возникновения ИИ
Существуют оценки, которые показывают, что компьютеры обретут силу, необходимую для ИИ, в 2020-2030 годы. Это примерно соответствует оценкам, даваемым для времени возникновения опасных биотехнологий. Однако здесь есть гораздо…
Ограничение человеческой природы ради безопасности
Может оказаться, что текущая природа человека (его склонность к риску, эмоциональные вспышки, нелогичность в рассуждениях) несовместима с долгосрочным выживанием человечества, и ради выживания эта природа должна быть неким…
Стоимость создания ядерного потенциала, могущего угрожать выживанию человеческой цивилизации
Хотя ядерное оружие создаёт теоретическую возможность общечеловеческого уничтожения, практическая реализуемость таких проектов зависит от их стоимости. Если поделить стоимость всей ядерной программы США на количество произведённых бомб, то…
Предисловие. Структура глобальной катастрофы
Если в ХХ веке возможность вымирания человечества связывалась в первую очередь с угрозой глобальной ядерной войны, то в начале XXI мы можем без труда называть более десяти различных…