Сильный ИИ может найти наилучшее возможное решение любой задачи. Это значит, что его можно использовать для достижения любых целей во внешнем мире. Он найдёт наилучший способ применить все…

Следует сказать, что, возможно, ядерное сдерживание как фактор предотвращения войны переоценивается. То, что является выигрышной стратегией в краткосрочной перспективе, может быть проигрышной в долгосрочной. То есть: войны сверхдержав…

В первой части книги мы очертим и проанализируем «пространство возможностей», в котором может произойти глобальная катастрофа. «Пространство возможностей» — термин, восходящий к книге «Фантастика и футурология» Станислава Лема….

Если глобальная катастрофа произойдёт, то она уничтожит любое общество. Поэтому устройство общества имеет значение только на фазе предотвращения рисков. Можно попытаться себе представить, хотя этот образ и будет…

Рассмотрим для начала гипотетические парные сценарии глобальной катастрофы, иначе говоря, разные варианты взаимоусиления основных факторов, взятых парами. При этом понятно, что в реальности они будут действовать все вместе,…

Далее, мы можем составить список «силы» разрушительного воздействия технологий, в которой каждая следующая технология даёт больший темп угроз и затмевает угрозы, создаваемые на предыдущем этапе. Временной фактор указывает…

Грегори Рёскин опубликовал в 2003 году статью «Океанические извержения, вызванные метаном и массовые вымирания» [Ryskin 2003], в которой рассматривает гипотезу о том, что причиной многих массовых вымираний были…

Чем глубже мы проникаем в земную кору – сверлим ее, расплавляем или взрываем, – тем вероятнее возможность вызвать этим сильное искусственное вулканическое извержение. Для того чтобы спровоцировать извержение…

Вероятность человеческого вымирания зависит не только от угрожающих нам катастроф, но и от способности людей противостоять им и выживать после них. Основная сила, обеспечивающая человеческое выживание, – это…

Назовем сверхземлетрясением колебания поверхности, приводящие к полным разрушениям и охватывающие всю поверхность Земли. Такое событие не могло бы убить всех людей, так как остались бы корабли, самолеты и…

В ходе дискуссий о рисках, связанных с SETI, был высказан ряд типичных возражений, которые стоит обсудить. Подчеркну, что речь идет не о заражении обычным компьютерным вирусом, а только…

Нанотехнологии могут привести к глобальной катастрофе несколькими путями. Первый из них связан с интенсивным применением нанотехнологического оружия, причем такого, которое способно атаковать людей. Если вся земная поверхность будет…

О возможной глобальной катастрофе можно почерпнуть много ценного из русских пословиц и других источников народной мудрости. Начнем с классического: «Пока гром не грянет, мужик не перекрестится». Это означает,…

Человек стал человеком, когда впервые взял в руку палку. Сущность человека – это отделение от тела; естество человека – это отделение от естества. Именно поэтому человеку легко слиться,…

Как было сказано в начале этой главы, цепные реакции характерны для большинства сценариев катастрофического развития событий, происходящих в самых разных сферах. Однако в большинстве случаев такие «реакции» не…

Человеческая история в качестве самой страшной катастрофы доносит воспоминания о колоссальном наводнении. Однако на земле нет такого количества воды, чтобы уровень океана поднялся выше гор. (Сообщения о недавнем…

Теперь обратимся к анализу целей сверхцивилизации, которая могла бы осуществлять такую атаку. Прежде всего, мы не должны путать понятия о «сверхразвитой» и «сверхдоброй» цивилизации. Более того, от «сверхдоброты»…

Прежде всего отметим, что наноробот возможен, потому что его аналог существует в природе. Любая живая клетка способна осуществлять молекулярное производство, то есть создавать структуры, обладающие атомарной точностью, например…

Наше описание элементов возможной глобальной катастрофы достигло такого уровня сложности, что оно, вероятно, превосходит способности человеческого разума к целостному восприятию. Поэтому настало время сделать некоторые обобщения, сложить элементы…