Может оказаться, что текущая природа человека (его склонность к риску, эмоциональные вспышки, нелогичность в рассуждениях) несовместима с долгосрочным выживанием человечества, и ради выживания эта природа должна быть неким образом ограничена. Это ограничение может быть как внешним — через жёсткую систему контроля на основе ИИ, так и внутренним — через контроль переживаний отдельного человека с помощью нейронных имплантов, а также опираться на выведение «новой породы» людей. Исторические все эти методы уже применялись — и государственный контроль на основании законов, и установление религиозных концепций в качестве мозгового импланта, и выведение особого «советского человека». И в каждом случае некие ценные особенности человеческой природы приносились в жертву общему благу. Но абсолютно безопасный человек будет в очень малой степени исходным человеком, и в каком-то смысле биороботом. Этому сюжету «тихой катастрофы» посвящён роман С.Лема «Возвращение со звёзд». В основе новой цивилизации, по сюжету романа, лежит процедура бетризации, которая нейтрализует все агрессивные импульсы в мозге человека и усиливает инстинкт самосохранения. Однако у этой процедуры есть и побочные эффекты. Человечество не склонно к риску, в частности, пилотируемые космические полёты рассматриваются как неоправданный авантюризм. Обратной стороной такого «отбора» будет выращивание существ, способных к абсолютной мимикрии своих подлинных намерений.
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Эту гипотезу вывел американский палеонтолог Ван Вален. Он старался объяснить, почему вероятность вымирания видов
Некоторые надеются, что угрозы глобальных катастроф развеются сами собой, когда человечество из-за нехватки ресурсов
Есть предположения, что источником земного тепла является естественный ядерный реактор на уране в несколько
Для многих природных катастроф, связанных с длительным накоплением и внезапным высвобождением энергии, есть теоретическая
В случае «медленного сценария» рост ИИ занимает месяцы и годы, и это означает, что,
Фактически, большая часть технологий, необходимых для создания опасного биологического оружия, уже существует. Например, в