Заключение. Перспективы предотвращения глобальных катастроф

Человечество не обречено на вымирание. Даже если у нас мало шансов, то обязательно стоит бороться за бесконечно большое будущее. Позитивным фактом является то, что, начиная с 2000 года резко возросло число публикаций, посвященных глобальным катастрофам общего характера. Начинает формироваться единое понимание проблемы. Надеюсь, что в ближайшее десятилетия проблема глобальных рисков станет общепризнанной. А люди, осознающие важность этого, окажутся у власти. Вероятно, это случится не плавно, а после жестоких потрясений (как 11 сентября), которые повысят интерес и читаемость литературы по теме, подхлестнут дискуссию. Можно надеяться, что некоторые обеспокоенные люди и группы поспособствуют реализации перспективной стратегии дифференциального развития технологий. А именно, Дружественный ИИ должен развиваться опережающими темпами, быстрее, чем, например, загрузка сознания в компьютер, которое в результате может обрести огромные силы и стать неконтролируемым. Очень важно, чтобы мощный ИИ возник раньше, чем сильные нанотехнологии — для того, чтобы помочь их контролировать.

Возможно, придётся смириться с избыточным или тоталитарным контролем над человеческой деятельностью в период, когда риск будет максимален, а понимание реальных угроз — минимально. В этот момент будет не ясно, какое знание действительно является знанием массового поражения, а какое — безобидной игрушкой.

Возможно, что нам просто повезёт, и ни один риск не сбудется. С другой стороны, возможно, что повезёт меньше, и череда крупных катастроф отбросит цивилизацию в развитии далеко назад, но человек сохранится и обретёт более мудрый подход к реализации технологических достижений. Возможно, что на этом пути предстоит трудный выбор: остаться навсегда на средневековом уровне, отказавшись от компьютеров, полётов к звёздам; или рискнуть, и попытаться стать чем-то большим. Несмотря на риск, второй сценарий выглядит для меня более привлекательным, т. к. замкнутое на Земле человечество обречено рано или поздно на вымирание по естественным причинам.

Наблюдается также усилия в создании убежищ разного рода: в Норвегии построено хранилище для семян в случай глобальной катастрофы. Хотя такое хранилище не спасёт людей, похвально желание вкладывать деньги и реальные ресурсы в проекты, отдача от которых возможна только через столетия. Активно обсуждается проект создания похожего убежища на Луне, который называют "запасной диск для цивилизации"1. В нем предполагается сохранить не только все знания цивилизации, но и замороженные человеческие эмбрионы, в надежде на то, что кто-нибудь (инопланетяне?) восстановит потом по ним людей.

Вместе с тем, в книге я пытался показать, что непродуманные действия по предотвращению катастроф могут быть не менее опасны, чем сами катастрофы. Следовательно, в настоящий момент основные усилия должны сосредотачиваться не на конкретных проектах, не на пропаганде "зелёного" образа жизни, а на возрастании понимания природы возможных рисков, на формирование научного консенсуса о том, что на самом деле опасно и какие уровни риска приемлемы. При этом дискуссия не может быть бесконечной, как в неких более абстрактных областях. Тогда мы рискуем "проспать" реально надвигающуюся катастрофу. Это значит, что мы ограничены во времени.

Понравилась статья? Поделиться с друзьями:
Добавить комментарий
SQL - 48 | 0,168 сек. | 12.45 МБ