Может оказаться, что текущая природа человека (его склонность к риску, эмоциональные вспышки, нелогичность в рассуждениях) несовместима с долгосрочным выживанием человечества, и ради выживания эта природа должна быть неким образом ограничена. Это ограничение может быть как внешним — через жёсткую систему контроля на основе ИИ, так и внутренним — через контроль переживаний отдельного человека с помощью нейронных имплантов, а также опираться на выведение «новой породы» людей. Исторические все эти методы уже применялись — и государственный контроль на основании законов, и установление религиозных концепций в качестве мозгового импланта, и выведение особого «советского человека». И в каждом случае некие ценные особенности человеческой природы приносились в жертву общему благу. Но абсолютно безопасный человек будет в очень малой степени исходным человеком, и в каком-то смысле биороботом. Этому сюжету «тихой катастрофы» посвящён роман С.Лема «Возвращение со звёзд». В основе новой цивилизации, по сюжету романа, лежит процедура бетризации, которая нейтрализует все агрессивные импульсы в мозге человека и усиливает инстинкт самосохранения. Однако у этой процедуры есть и побочные эффекты. Человечество не склонно к риску, в частности, пилотируемые космические полёты рассматриваются как неоправданный авантюризм. Обратной стороной такого «отбора» будет выращивание существ, способных к абсолютной мимикрии своих подлинных намерений.
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Жанр требует «хэппи энда». Если бы глобальная катастрофа была абсолютно неизбежна, то не следовало
Теоретически возможны следующие примеры взаимной нейтрализации опасных технологий и катастроф: Ядерная война останавливает развитие
Есть также ряд теорий, которые либо выдвигались разными исследователями и были опровергнуты, либо циркулируют
Наиболее опасным является вариант, при котором значительное открытие совершится совершенно внезапно в ходе обычного
Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо
«Философским зомби» называется (термин введён Д. Чалмерсом в 1996 г. в связи с дискуссиями