Структура глобальной катастрофы

Подробно я рассматриваю этот вопрос в статье «Природные катастрофы и антропный принцип» [Турчин 2007b]. Суть угрозы состоит в том, что разумная жизнь на Земле, вероятнее всего, сформировалась в…

В будущем можно ожидать возникновения новых видов глобального оружия, основанного на новых физических принципах. Хотя сами новые принципы неизвестны, можно очертить общие черты любого абсолютного оружия, а именно:…

Вообще, надо различать четыре основных вида недружественных ИИ: 1. ИИ, который имеет одну из подцелей в явной форме враждебную человеку (например, ИИ, который превращает всю солнечную систему в…

В разделе 16.5 мы рассмотрим биологические аспекты генетической деградации (и вероятность того, что она приведёт к полному вымиранию вида) и эволюции человека. Здесь же мы должны отметить, что…

Сверхбомба После испытания «Царь-бомбы» в 1961 году на Новой Земле с выходом в 50 мегатонн, были осуществлены разработки более мощных бомб с выходом в 200 и даже 1000…

По определению, в однофакторных сценариях всегда присутствует некий один фактор, который воздействует на всех людей. Об этом факторе можно сказать следующее: он зарождается в некой точке, распространяется по…

Это утверждение опирается на следующие посылки, которые мы по отдельности обсудили в предыдущих главах. Большинство крупных технологических катастроф, начиная с катастрофы «Титаника», носили системный характер, то есть не…

К этому классу относятся два типа событий. Первые — это события, которые неизбежно наступят в XXI веке, исходя из общепринятых представлений о развитии потребления и технологий. Вопрос в…

Любые глобальные катастрофы можно различить по тому признаку, организованы ли они некой разумной силой, которая стремится устроить именно глобальную катастрофу, или это некий случайный процесс, у которого нет…

Жанр требует «хэппи энда». Если бы глобальная катастрофа была абсолютно неизбежна, то не следовало бы и писать этой книги, так как единственное, что оставалось бы людям перед лицом…

Теоретически возможны следующие примеры взаимной нейтрализации опасных технологий и катастроф: Ядерная война останавливает развитие технологий вообще. Тотальный ИИ предотвращает биотерроризм. Биотерроризм делает невозможным развитие ИИ Ядерная зима предотвращает…

Есть также ряд теорий, которые либо выдвигались разными исследователями и были опровергнуты, либо циркулируют в жёлтой прессе и массовом сознании и основываются на откровенных ошибках, лжи и непонимании,…

Наиболее опасным является вариант, при котором значительное открытие совершится совершенно внезапно в ходе обычного эксперимента, как уже неоднократно бывало в истории науки, и проявится в виде непредвиденных последствий….

Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо будет создан и того, что он будет применён неким ошибочным образом. Я полагаю, что…

Весь разговор о предотвращении глобальных рисков имеет смысл, только если сохранение человечества является целью, или необходимым средством для каких-либо целей. Хотя нам это кажется само собой разумеющимся, это…

Следующий сценарий — глобальное радиоактивное заражение. Можно выделить два вида заражения — краткосрочное заражение, возникающее в первые часы и дни после взрыва и вызываемое короткоживущими элементами, и долгосрочное,…

Важным является вопрос, может ли сумасшествие одного человека привести к «нажатию красной кнопки». Этот вопрос относительно изучен в отношении применения ядерного оружия, но аналогичным образом он будет возникать…

Выше мы составили насколько возможно полный список однофакторных сценариев глобальной катастрофы. Есть и другие варианты этого списка, например, в статье Н. Бострома и в книге Дж. Лесли, с…

Те явления, в которых возникает ничем не ограниченная положительная обратная связь, являются основными источниками глобальных рисков, то есть способны распространиться по всей Земле. Этот вопрос подробно рассмотрен мной…

Вне зависимости от того, как сложились предыдущие факторы, можно обозначить следующую последовательность событий во времени для однофакторной глобальной катастрофы: 1.  Фаза назревания. Она включает в себя изобретение, создание,…