Может оказаться, что текущая природа человека (его склонность к риску, эмоциональные вспышки, нелогичность в рассуждениях) несовместима с долгосрочным выживанием человечества, и ради выживания эта природа должна быть неким образом ограничена. Это ограничение может быть как внешним — через жёсткую систему контроля на основе ИИ, так и внутренним — через контроль переживаний отдельного человека с помощью нейронных имплантов, а также опираться на выведение «новой породы» людей. Исторические все эти методы уже применялись — и государственный контроль на основании законов, и установление религиозных концепций в качестве мозгового импланта, и выведение особого «советского человека». И в каждом случае некие ценные особенности человеческой природы приносились в жертву общему благу. Но абсолютно безопасный человек будет в очень малой степени исходным человеком, и в каком-то смысле биороботом. Этому сюжету «тихой катастрофы» посвящён роман С.Лема «Возвращение со звёзд». В основе новой цивилизации, по сюжету романа, лежит процедура бетризации, которая нейтрализует все агрессивные импульсы в мозге человека и усиливает инстинкт самосохранения. Однако у этой процедуры есть и побочные эффекты. Человечество не склонно к риску, в частности, пилотируемые космические полёты рассматриваются как неоправданный авантюризм. Обратной стороной такого «отбора» будет выращивание существ, способных к абсолютной мимикрии своих подлинных намерений.
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Многие наработки новых технологий не решают проблему глобальных рисков «глобально», а предлагают некоторые частные
Некоторые ресурсы могут не просто закончиться, но быть исчерпаны, так сказать, в минус. Например,
Встречаются предположения, что на периферии Солнечной системы находится невидимая звезда (называемая Немезидой) или крупная
Есть предположение, что можно создать озонное оружие, которое приведёт к очень эффективному каталитическому истреблению
ИИ является абсолютным оружием, сила которого пока недооценивается государствами — насколько нам известно. (Однако
В книге «Эгоистичный ген» Докинз [Докинз 1993] предложил концепцию «мемов» — идей, которые способны