Иногда значительная катастрофы вызываются сбоями в системе управления. Пример тому различные социальные эксперименты в Китае в XX веке. Масштаб последствий такого ошибочного решения ограничен масштабом власти. Ошибка абсолютной власти может означать полное уничтожение. Р. Хансен предлагает рассматривать такие ошибочные решения как стихийные бедствия, вроде падения астероидов, которые имеют определённую шкалу вероятностного распределения. Нетрудно представить себе небольшое государство или племя, которое, подчиняясь бредовой логике, убивает всех своих жителей, не используя никаких продвинутых технологий. Например, небольшую группу людей можно загнать в одну постройку и затем его поджечь. В качестве примера можно вспомнить массовые самоубийства старообрядцев (однако при организованных сверху массовых самоубийствах, в которых было больше 1000 человек, уже были выжившее: пример Джорджтауна). Мы будем далее говорить о группах людей, которые готовы рискнуть судьбой планеты, и о машине Судного Дня как о возможных стратегиях «омницида».
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Однофакторные сценарии глобальной катастрофы
В нескольких следующих главах мы рассмотрим классическую точку зрения на глобальные (цивилизационные) катастрофы, которая
Структура биологической катастрофы
Структура биологической катастрофы может быть весьма замысловатой. В качестве иллюстрации приведу несколько цитат об
Скорость старта
С точки зрения скорости процесса развития ИИ возможны три варианта: быстрый старт, медленный старт,
Неограниченное распространение самовоспроизводящихся нанороботов
Возможность этого риска впервые указана Дрекслером, и исследована в статье Р. Фрейтаса «Проблема серой
Астероидная опасность в контексте технологического развития
Нетрудно заметить, что прямые риски столкновения с астероидом убывают по мере технологического развития. В
Генетическая деградация и ослабление фертильности (способности к размножению)
Распространение мутагенов (огромное количество разных веществ), накопление генетических дефектов в результате прекращения генетического отбора,