Новые технологии могут нарушать военно-политическое равновесие в мире, предоставляя одной из сторон невиданные возможности. Эрик Дрекслер описывает проблему следующим образом: «В поиске серединного пути мы могли бы пытаться найти баланс сил, основанный на балансе технологий. Это, по-видимому, расширило бы ситуацию, которая сохраняла определенную меру мирного сосуществования на протяжении четырех десятилетий. Но ключевое слово здесь — по-видимому: грядущие прорывы будут слишком стремительными и дестабилизирующими, чтобы старый баланс мог продолжать существование. В прошлом страна могла испытывать технологическое отставание на несколько лет и всё же поддерживать приблизительный военный баланс. Однако со стремительными репликаторами и продвинутым ИИ задержка на единственный день могла бы быть фатальной» [Drexler 1985]. Короче говоря, чем быстрее развиваются технологии, тем меньше шансов, что они будут находиться в равновесии в разных странах, а также с силами сдерживания и контроля. Сознательное нарушение баланса также опасно: попытка одной из стран явным образом уйти «в отрыв» в сфере военных сверхтехнологий может спровоцировать её противников на агрессию по принципу «атака при угрозе потери преимущества».
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Жанр требует «хэппи энда». Если бы глобальная катастрофа была абсолютно неизбежна, то не следовало
Теоретически возможны следующие примеры взаимной нейтрализации опасных технологий и катастроф: Ядерная война останавливает развитие
Есть также ряд теорий, которые либо выдвигались разными исследователями и были опровергнуты, либо циркулируют
Наиболее опасным является вариант, при котором значительное открытие совершится совершенно внезапно в ходе обычного
Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо
Весь разговор о предотвращении глобальных рисков имеет смысл, только если сохранение человечества является целью,