Весь разговор о предотвращении глобальных рисков имеет смысл, только если сохранение человечества является целью, или необходимым средством для каких-либо целей. Хотя нам это кажется само собой разумеющимся, это…
Книги
Вероятность катастрофы, связанной с ИИ
Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо будет создан и того, что он будет применён неким ошибочным образом. Я полагаю, что…
Неудачный физический эксперимент
Наиболее опасным является вариант, при котором значительное открытие совершится совершенно внезапно в ходе обычного эксперимента, как уже неоднократно бывало в истории науки, и проявится в виде непредвиденных последствий….
Гравитационные возмущения от гипотетических небесных тел
Встречаются предположения, что на периферии Солнечной системы находится невидимая звезда (называемая Немезидой) или крупная планета, которая вращается по сильно эллиптической орбите и своим гравитационным возмущением регулярно приводит к…
Способ распространения
Именно способность к всемирному распространению делает оружие сверхоружием. Эта всемирность означает не только всю поверхность земного шара, но и способность проникать через все укрытия и средства защиты, а…
Цели создания оружия судного дня
Опасный фактор глобальной катастрофы может возникнуть или случайно, или быть создан намеренно. (Однако возможна и комбинация этих двух моментов: случайным фактором могут воспользоваться намеренно, например, скрыв приближение опасного…
Криптовойна
Важным фактором будущих глобальных рисков является появление возможности «криптовойн» — то есть внезапных анонимных ударов, когда неизвестно, кто нападающий, а иногда даже неочевиден сам факт нападения (термин С….
Закон Мура
Законом Мура в узком смысле слова называется экспоненциальный рост числа транзисторов на чипе. В широком смысле слова под ним имеется в виду экспоненциальное усиление разных технологий с течением…
Возможная роль международных организаций в предотвращении глобальной катастрофы
Мы не знаем определённо, кто именно должен заниматься предотвращением глобальных катастроф. Хуже того, вероятно есть много организаций и частных лиц, готовых этим заняться, — кто против того, чтобы…
Рассуждение о конце света Картера-Лесли
Лесли рассуждает несколько другим образом, чем Готт, применяя байесову логику. Байесова логика основывается на формуле Байеса, которая связывает апостериорную вероятность некой гипотезы с априорной её вероятностью и вероятностью…
Интеграция поражающих факторов ядерного оружия
Умеренная по масштабам ядерная зима, сопровождающаяся умеренным радиоактивным поражением, может дать «синергетический» эффект, который превосходит по силе даже самую мощную ядерную зиму, взятую в отдельности. Например, как уже…
Генетическая деградация человека
В разделе 16.5 мы рассмотрим биологические аспекты генетической деградации (и вероятность того, что она приведёт к полному вымиранию вида) и эволюции человека. Здесь же мы должны отметить, что…
Типы враждебного ИИ
Вообще, надо различать четыре основных вида недружественных ИИ: 1. ИИ, который имеет одну из подцелей в явной форме враждебную человеку (например, ИИ, который превращает всю солнечную систему в…
Новые виды оружия, новые источники энергии, новые среды распространения и способы дальнодействия
В будущем можно ожидать возникновения новых видов глобального оружия, основанного на новых физических принципах. Хотя сами новые принципы неизвестны, можно очертить общие черты любого абсолютного оружия, а именно:…
Ложные и опровергнутые теории глобальных катастроф
Есть также ряд теорий, которые либо выдвигались разными исследователями и были опровергнуты, либо циркулируют в жёлтой прессе и массовом сознании и основываются на откровенных ошибках, лжи и непонимании,…
Способ причинения смерти
Основной элемент глобальной катастрофы, который мы называем «агент», может вообще не убивать людей, а только разъединять их и лишать способности к размножению, как например, супернаркотик, или вирус, стерилизующий…
Социальные группы, готовые рискнуть судьбой планеты
Вероятно, надо отдельно выделить список социальных групп и организаций, которые стремятся к крушению и смене мирового порядка. И ради этого или готовы пойти на риск всеобщего уничтожения, или…
Уязвимость к сверхмалым воздействиям
Следующим сценарным фактором является уязвимость сверхсложных систем к бесконечно малым воздействиям — что можно использовать для организации диверсий. (За счёт нелинейного сложения несколько очень слабых событий могут иметь…
Защита от глобальных рисков. Общее понятие о предотвратимости глобальных рисков
Очевидно, что если удастся выяснить, что существует несколько простых, очевидных и надёжных способов противостоять глобальным катастрофам, то мы значительно улучшим свою безопасность, а ряд глобальных рисков перестанет нам…
Бесконечность Вселенной и вопрос об окончательности человеческого вымирания
Вполне материалистическим является предположение о бесконечности Вселенной. Если это так, то можно ожидать, что в ней возникают или уже существуют все возможные миры. В том числе в ней…