Как бы ни была масштабна глобальная катастрофа, ясно, что вся Вселенная в ней не погибнет (если только это не распад метастабильного вакуума, но даже в этом случае останутся параллельные вселенные). Какая-нибудь разумная жизнь возникнет в ней на другой планете, и чем больше будет таких мест, тем больше шансов, что эта жизнь будет похожа на нашу. В этом смысле окончательная глобальная катастрофа невозможна. Однако если глобальная катастрофа постигнет именно Землю, то тут возможно несколько вариантов.
В соответствии с положениями синергетики, критическая точка означает, что существует конечное число сценариев, между которыми произойдёт необратимый выбор направления движения. Как бы много ни было возможных сценариев глобальной катастрофы, количество окончательных состояний гораздо меньше. В нашем случае речь идёт о следующих вариантах:
Полное разрушение Земли и жизни на ней. Дальнейшая эволюция невозможна, хотя, может быть, некоторые бактерии выжили бы.
Люди вымерли, однако биосфера в целом сохранилась, и эволюция других видов животных продолжается. Как вариант — отдельные мутировавшие люди или обезьяны постепенно создают новый разумный вид.
3. «Серая слизь». Уцелела некая примитивная «некросфера» (термин С. Лема из романа «Непобедимый») из нанороботов. В ней может произойти своя эволюция. Вариант — уцелели самовоспроизводящиеся заводы по производству крупных роботов, но они не обладают настоящим ИИ.
«Постапокалиптический мир». Технологическая цивилизация рухнула, но определённое число людей уцелело. Они занимаются собирательством и сельским хозяйством, факторы антропогенных угроз существованию исчезли. (Однако процесс глобального потепления может продолжаться за счёт запущенных ранее процессов и стать необратимым.) Из этого сценария есть возможности перехода к другим сценариям — к новой технологической цивилизации или к окончательному вымиранию.
Сверхмощный искусственный интеллект установил власть над миром. Люди вымерли или вытеснены на обочину истории. При этом -внимание! — с точки зрения людей это может выглядеть как мир всеобщего изобилия: каждый получит неограниченную жизнь и виртуальный мир в придачу. Однако расходы системы на развлечение людей будут минимальны, равно как и роль людей в управлении системой. Этот процесс — автономизации государства от человека и снижения роли людей в нём -уже идёт. Даже если сверхинтеллект возникнет благодаря усовершенствованию отдельных людей или их слиянию, он уже не будет человеком — во всяком случае, с точки зрения обычных людей. Его новая сложность перевесит его человеческие корни.
6. Позитивный исход — см. подробнее следующую главу. Люди создали такой сверхмощный ИИ, который управляет миром, максимально реализуя потенциал людей и человеческие ценности. Этот сценарий имеет тонкую, но существенную разницу с тем сценарием, который оставляет людям только сферу виртуальных развлечений и удовольствий. Разница эта — как между сном о любви и настоящей любовью.
Почти каждый из этих вариантов является устойчивым аттрактором или руслом развития событий, то есть после прохождения критической точки он начинает притягивать к себе разные сценарии.