Хотя считается, что для эффективного самовоспроизводства нужны молекулярные нанотехнологии, возможно, что это не так. Тогда вполне макроразмерный робот мог бы размножаться, используя природные энергию и материалы. Этот процесс может быть двухступенчатым и использовать робота-матку и роботов-воинов, которых она производит и которые её обслуживают. Создание саморазмножающихся роботов привлекательно тем, что позволяет быстро и дёшево создать огромную армию или развернуть масштабное производство, особенно в космосе, куда дорого отправлять готовые изделия. Риск состоит в утрате контроля над такой способной к саморазмножению системой. Важно подчеркнуть, что речь идёт не о сильном универсальном искусственном интеллекте, а о вышедшей из-под контроля системе с ограниченным интеллектом, неспособным к самосовершенствованию. Большие размеры и неинтеллектуальность делают её более уязвимой, а уменьшение размеров, повышение скорости воспроизводства и повышение интеллектуальности — более опасной. Классический пример такой угрозы в биологическом царстве — саранча. Возможно, что такой робот будет содержать биологические элементы, так как они помогут быстрее усваивать вещества из окружающей среды. К настоящему моменту сделан трёхмерный принтер RepRap, который способен воспроизводить почти все собственные детали1.
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Если люди овладеют генетическими технологиями, то это может позволить как устроить крах биосферы невероятных
Распространение опасных биологических форм может привести к полному заражению ими биосферы. В этом случае
Подробно я рассматриваю этот вопрос в статье «Природные катастрофы и антропный принцип» [Турчин 2007b].
В будущем можно ожидать возникновения новых видов глобального оружия, основанного на новых физических принципах.
Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо
Весь разговор о предотвращении глобальных рисков имеет смысл, только если сохранение человечества является целью,