Наше описание элементов возможной глобальной катастрофы достигло такого уровня сложности, что оно, вероятно, превосходит способности человеческого разума к целостному восприятию. Поэтому настало время сделать некоторые обобщения, сложить элементы «пазла» в некую картину.
Сделаем мы это с помощью описания нескольких сценариев глобальной катастрофы. Их смысл, разумеется, не в том, чтобы предложить некие конкретные прогнозы, а в том, чтобы дать срез пространства возможностей – проиллюстрировать его устройство. Часть сценариев откровенно фантастические, однако при этом не будем забывать слова Н. Бора, сказанные в период становления физики в начале XX века: «Эта теория недостаточно безумна, чтобы быть верной». Иначе говоря, то, что некоторые сценарии могут выглядеть абсолютно нереальными, все же не делает их невозможными.
Пусть это будут своего рода пробные шары, с помощью которых можно исследовать саму способность создавать и оценивать сценарии глобальной катастрофы, наши границы восприятия в отношении реального и невероятного. (При этом следует иметь в виду, что здесь не решается задача предложить полный список возможных сценариев – он был бы намного длиннее.)
1. Мировой финансовый кризис, распад мирового сообщества на враждующие сегменты, ускорение гонки вооружений, широкое распространение ядерного и биологического оружия, война всех против всех, деградация в сторону постапокалиптического мира, в котором на каждом этапе деградации остается достаточно оружия от предыдущего этапа, чтобы перейти к следующему. Время действия: 2010–2030 годы.
2. Создание универсального биопринтера и его широкое распространение. Это как личный ДНК-синтезатор, инкубатор плюс набор программ для создания любых живых существ. В результате – резкий, очень быстрый взрыв биохакерства, отравление окружающей среды поедающими все бактериями и заражение большей части людей смертельными болезнями. Применение ядерного оружия в попытке стерилизовать зараженные территории. В результате – все тот же постапокалиптический мир с неограниченной способностью к деградации – даже более сильной, чем в предыдущем варианте, так как более опасное оружие создано и может производиться последними оставшимися людьми. Время действия: 2010–2030 годы.
3. Внезапная ядерная война, постапокалиптический мир, затем нарастание глобального потепления и превращение Земли в «Венеру». Время действия: ХХ I– XXII века.
4. Внезапное возникновение мощного самоусиливающегося ИИ. ИИ приходит к выводу об изначальной ущербности живой клетки и повсеместно внедряет (в качестве замены) нанороботов. Каждый человек подключен к источнику неограниченного блаженства и больше не приходит в сознание. Время действия: 2010–2040 годы.
5. В ходе мировой войны или иного противостояния враждующие стороны вбрасывают на территорию противника лаборатории по производству сверхнаркотика. Благодаря этим лабораториям биотехнологии распространяются по всему миру. В последнем усилии остановить биологическую атаку мировые правительства бросают огромные усилия на разработку систем ИИ. Эти системы достигают зрелости почти одновременно в нескольких странах и вступают в ожесточенную схватку между собой за право нести благо человечеству. В результате выживает только несколько человек, которых победивший ИИ держит на лунной станции в искусственном парке, окружив их заботой. Время действия: 2010–2050 годы.
6. На Земле побеждает ИИ. Благодаря своему «уму» он оказывается способен распространить информацию о себе по Вселенной, что и делает. Он открывает межзвездные перелеты и сталкивается там с конкуренцией гораздо более зрелого ИИ, давным-давно созданного другой цивилизацией. Более зрелый ИИ уничтожает наш ИИ и истребляет человечество. Время действия: 2020–2100 годы.
7. Распространение биотехнологий запускает эпидемии супервирусов, которые приводят к тому, что большинство стран решают создать единую систему контроля «Старшая сестра». Однако некоторые страны не согласны, и предпринимается попытка их завоевать. В результате последовавшей ядерной и биологической войны население Земли значительно сокращается, биосфера серьезно повреждена, но «Старшая сестра» создана. Поскольку ей все время угрожают мятежи людей, она постепенно ограничивает активность людей, одновременно плавно увеличивая свои способности. В конечном счете она становится полноценным самосовершенствующимся ИИ.
8. «Аль-Каида» провоцирует крах западной цивилизации и создает всемирный халифат. Уцелевшие ученые создают сверхбомбы и взрывают весь мир, чтобы он «не достался террористам».
9. Удается наладить дешевое и эффективное производство микророботов. Последовавшая война загоняет уцелевших людей в бункеры. Однако война продолжается, и жители бункеров (представляющие разные страны) уничтожают друг друга ядерными ударами.
10. Компьютерный вирус поражает всю имеющуюся в мире технику и заставляет ее атаковать людей. Оставшиеся в живых люди из страха уничтожают всю оставшуюся технику. Уцелевшие люди живут племенами, но все они заражены СПИДом и еще несколькими медленнотекущими болезнями, вся окружающая среда загрязнена. Тем временем крысы мутируют и становятся хищными, умными и агрессивными. Люди вымирают, а крысы завладевают Землей. Однако они неспособны к абстрактному мышлению и не могут создавать новую технику. Через миллионы лет они вымирают от падения астероида.
11. Падение небольшого астероида вызывает случайную ядерную войну, которая становится войной всех против всех. Уцелевшие люди вымирают, когда вслед за тем падает гораздо больший астероид и провоцирует извержение супервулкана.
12. Некая страна разрабатывает опасные нанотехнологии, и на нее совершается превентивное нападение, но никаких следов опасных нанотехнологий не находят. Поэтому борьбу с глобальными рисками объявляют опасной ересью. Затем наконец опасные нанотехнологии появляются и применяются.
13. Несколько всеядных бактерий вырываются в окружающую среду и делают ее непригодной для производства пищи и обитания. Люди прячутся в бункеры, но постепенно там деградируют.
14. Тоталитарное мировое правительство вводит всем людям вирус счастья, чтобы они любили Бога и радовались жизни. Затем происходит революция, и новое правительство решает даровать людям свободу, вводя всем вирус свободы. Тем временем террористы выпускают боевых нанороботов, и приходится создать всемирную наноиммунную систему. Однако некто проникает в центр управления наноиммунной системой и запускает в ней аутоиммунную реакцию, в результате чего она начинает бороться сама с собой. Только немногие люди выживают – однако все они обречены в скором времени стать дебилами из-за ошибки в конструкции вируса свободы.
15. Человечество распадается на обычных людей и сверхлюдей, усиленных с помощью новых технологий. Сверхлюди борются с обычными людьми (и вообще их за людей не считают). В результате обычные люди полностью истребляются, и остается несколько сверхлюдей, которые по разным причинам вымирают.
16. В результате экспериментов с холодными нейтронами большое их количество попадает в центр Земли, и они запускают цепную реакцию в находящемся там уране. Происходит сильнейшее увеличение вулканической активности, и технологическая цивилизация терпит крах. Уцелевшие люди живут на станции на Луне, но постепенно вымирают.
17. Люди создают доступ от мозга к компьютеру, и вскоре большинство человеческих мозгов оказывается заражено вирусами, троянами и рекламными программами. Другая часть людей уходит в виртуальное пространство навсегда. Начинается борьба этих двух классов людей. При этом настоящие люди находятся внутри компьютеров, а в биологических телах находятся в основном вирусы и трояны. Группа ученых делает открытие о квантовой природе сознания и создает универсальный доступ к любым видам сознания. Через него перетекают враждебные сознания из параллельного мира. Человеческая идентичность полностью утрачена.
18. Некая страна создает «оружие судного дня», и вскоре все остальные страны создают его во множестве. Группа террористов провоцирует его применение.
19. Создается этническое биологическое оружие, которое уничтожает людей с другим цветом кожи. Но несколько человек встают на защиту цветных и производят аналогичное оружие против белых. Поскольку планета оказывается полностью зараженной, приходится выпустить новую бактерию, которая дезинфицирует биосферу. Однако всеобщее недоверие приводит к тому, что одновременно создается несколько биощитов, которые вступают между собой в конфликт. Их битва разрушает все живое. Уцелевшие люди вступают в секту, агитирующую за добровольное уничтожение человечества, которое натворило столько зла. Они взрывают атомные бомбы во всех бункерах, число которых конечно и местоположение известно.
20. Некая страна придумала добывать энергию из магмы и просверлила глубокий подземный канал, в результате чего образовался неконтролируемый вулкан, и другие страны объявляют ей войну, чтобы она прекратила опыты. В качестве ответной меры первая страна создает еще более глубокий канал. Происходит катастрофическая дегазация земного ядра, и жидкость из центра Земли поступает на поверхность. Жизнь на Земле полностью уничтожена.
При рассмотрении каждого предложенного сценария становится ясно, что он в чем-то излишне фантастичен и похож на сюжет для романа, а в чем-то неполон – просто потому, что есть много вещей и возможностей, о которых он не говорит.
На одной планете может разворачиваться сразу несколько таких сценариев. Опять же возможна нелинейная интерференция между ними. Вначале такие сценарии могут развиваться независимо, но затем, на определенной стадии реализации, они непременно пересекутся друг с другом. Следующий явный недостаток этих сценариев – они написаны от имени того, кто уже знает начало и конец «печальной истории» и точно понимает, что происходит. При этом в реальной жизни в начале любой последовательности событий мы не знаем, к чему она приведет, более того, наше неверное понимание часто играет ключевую роль в выборе неверных решений. Наконец, пока человечество не вымерло, нельзя утверждать, что некий сценарий был необратимым, а после того как человечество вымрет, некому будет воспользоваться этим ценным знанием.
Но как принять «правильное» решение? Ведь не все процессы происходят явно – об одних говорят на каждой странице газеты, другие становятся понятными в момент своего проявления или уже после него. Например, мы каждый день слышим о глобальном потеплении, но перед 11 сентября нам никто не писал «террористы уже подошли к самолету». То есть мы можем находиться внутри какого-то сценария, даже не задумываясь о его существовании.
С другой стороны – если бы мы точно знали, что сейчас происходит именно сценарий номер Х, нам бы, наверное, не составило труда его предотвратить. Поэтому главным фактором реализации сценария возможной будущей глобальной катастрофы будет состояние замешательства. Оно, вероятно, будет проявляться в интеллектуальном разброде относительно причин процесса и способов его преодоления и приведет к конфликтам между сторонниками разных подходов. А любой такой конфликт равноценен перестрелке в пороховом погребе.
Как же быть? Ведь очевидно, что способности одного человека определять сценарии возможных глобальных катастроф принципиально ограничены привычными индивидууму сюжетными конструкциями. И ответ тут тоже кажется очевидным: эффективным способом моделирования сценариев являются штабные или ролевые игры. Например, несколько лет назад ряд ведущих фантастов (Переслегин, Латынина, Лукьяненко и др.) играли в штабную игру в МЧС на тему возможности аварии в электрических сетях Москвы – по мотивам аварии в Нью-Йорке. И получили результат, похожий на тот, который затем имел место в Москве в 2005 году.
Кстати, различные модели поведения недружественного ИИ Юдковски в США также отыгрывал на модели ролевых игр GURPS. Но не исключено, что в будущем как раз системы ИИ смогут оказать решающую помощь в моделировании сценариев катастроф и прогнозировании.