Может оказаться, что текущая природа человека (его склонность к риску, эмоциональные вспышки, нелогичность в рассуждениях) несовместима с долгосрочным выживанием человечества, и ради выживания эта природа должна быть неким образом ограничена. Это ограничение может быть как внешним — через жёсткую систему контроля на основе ИИ, так и внутренним — через контроль переживаний отдельного человека с помощью нейронных имплантов, а также опираться на выведение «новой породы» людей. Исторические все эти методы уже применялись — и государственный контроль на основании законов, и установление религиозных концепций в качестве мозгового импланта, и выведение особого «советского человека». И в каждом случае некие ценные особенности человеческой природы приносились в жертву общему благу. Но абсолютно безопасный человек будет в очень малой степени исходным человеком, и в каком-то смысле биороботом. Этому сюжету «тихой катастрофы» посвящён роман С.Лема «Возвращение со звёзд». В основе новой цивилизации, по сюжету романа, лежит процедура бетризации, которая нейтрализует все агрессивные импульсы в мозге человека и усиливает инстинкт самосохранения. Однако у этой процедуры есть и побочные эффекты. Человечество не склонно к риску, в частности, пилотируемые космические полёты рассматриваются как неоправданный авантюризм. Обратной стороной такого «отбора» будет выращивание существ, способных к абсолютной мимикрии своих подлинных намерений.
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
1. Путаница между вероятностью, как мерой изменчивости объекта, и степенью уверенности, как мерой информации
С одной стороны, может показаться, что вращение политической жизни в современном мире постепенно сосредотачивается
Есть концепция, что виды могут стареть. Майкл Фут и др. в статье «Взлет и
Нетрудно заметить, что прямые риски столкновения с астероидом убывают по мере технологического развития. В
Как мы уже говорили, нанотехнологии позволят создавать очень эффективное оружие, которое способно истребить всех
Уже сейчас между компаниями, разрабатывающими ИИ, идёт жёсткая конкуренция и за внимание инвесторов и