Проблемы и явления

Есть также ряд теорий, которые либо выдвигались разными исследователями и были опровергнуты, либо циркулируют в жёлтой прессе и массовом сознании и основываются на откровенных ошибках, лжи и непонимании,…

Наиболее опасным является вариант, при котором значительное открытие совершится совершенно внезапно в ходе обычного эксперимента, как уже неоднократно бывало в истории науки, и проявится в виде непредвиденных последствий….

Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо будет создан и того, что он будет применён неким ошибочным образом. Я полагаю, что…

Весь разговор о предотвращении глобальных рисков имеет смысл, только если сохранение человечества является целью, или необходимым средством для каких-либо целей. Хотя нам это кажется само собой разумеющимся, это…

Следующий сценарий — глобальное радиоактивное заражение. Можно выделить два вида заражения — краткосрочное заражение, возникающее в первые часы и дни после взрыва и вызываемое короткоживущими элементами, и долгосрочное,…

Важным является вопрос, может ли сумасшествие одного человека привести к «нажатию красной кнопки». Этот вопрос относительно изучен в отношении применения ядерного оружия, но аналогичным образом он будет возникать…

Выше мы составили насколько возможно полный список однофакторных сценариев глобальной катастрофы. Есть и другие варианты этого списка, например, в статье Н. Бострома и в книге Дж. Лесли, с…

К этому классу относятся два типа событий. Первые — это события, которые неизбежно наступят в XXI веке, исходя из общепринятых представлений о развитии потребления и технологий. Вопрос в…

Любые глобальные катастрофы можно различить по тому признаку, организованы ли они некой разумной силой, которая стремится устроить именно глобальную катастрофу, или это некий случайный процесс, у которого нет…

Многие наработки новых технологий не решают проблему глобальных рисков «глобально», а предлагают некоторые частные решения, которые могут повысить выживаемость, и именно такие наработки часто оказываются в центре оживлённых…

Некоторые ресурсы могут не просто закончиться, но быть исчерпаны, так сказать, в минус. Например, сверхэксплуатация почв приводит к их быстрой и полной эрозии. Этот вопрос исследовался Медоузом в…

Встречаются предположения, что на периферии Солнечной системы находится невидимая звезда (называемая Немезидой) или крупная планета, которая вращается по сильно эллиптической орбите и своим гравитационным возмущением регулярно приводит к…

Есть предположение, что можно создать озонное оружие, которое приведёт к очень эффективному каталитическому истреблению озонового слоя. Тем не менее, даже если поток солнечного ультрафиолета будет очень силён и…

ИИ является абсолютным оружием, сила которого пока недооценивается государствами — насколько нам известно. (Однако довольно успешный проект Эвриско начала 80-х получил финансовую поддержку DARPA1.) Однако идея о нанотехнологиях…

«Философским зомби» называется (термин введён Д. Чалмерсом в 1996 г. в связи с дискуссиями об искусственном интеллекте) некий объект, который изображает человека, но при этом не имеет внутренних…

Существует огромное количество исследований по атомному оружию и последствиям его применения. Здесь мы можем предложить читателю только краткий и неполный обзор основных выводов, рассмотренных исключительно только с точки…

Теоретически можно удалить источники рисков от Земли, в первую очередь это касается опасных физических экспериментов. Проблемы, связанные с этим подходом: Получив в руки технические средства создавать мощные экспериментальные…

Соберём в отдельную категорию все варианты «машины судного дня», которую может создать наиболее злонамеренная группа людей. Термин «машина судного дня» восходит к работам Германа Кана «О термоядерной войне»1…

Те явления, в которых возникает ничем не ограниченная положительная обратная связь, являются основными источниками глобальных рисков, то есть способны распространиться по всей Земле. Этот вопрос подробно рассмотрен мной…

Вне зависимости от того, как сложились предыдущие факторы, можно обозначить следующую последовательность событий во времени для однофакторной глобальной катастрофы: 1.  Фаза назревания. Она включает в себя изобретение, создание,…