Хотя считается, что для эффективного самовоспроизводства нужны молекулярные нанотехнологии, возможно, что это не так. Тогда вполне макроразмерный робот мог бы размножаться, используя природные энергию и материалы. Этот процесс может быть двухступенчатым и использовать робота-матку и роботов-воинов, которых она производит и которые её обслуживают. Создание саморазмножающихся роботов привлекательно тем, что позволяет быстро и дёшево создать огромную армию или развернуть масштабное производство, особенно в космосе, куда дорого отправлять готовые изделия. Риск состоит в утрате контроля над такой способной к саморазмножению системой. Важно подчеркнуть, что речь идёт не о сильном универсальном искусственном интеллекте, а о вышедшей из-под контроля системе с ограниченным интеллектом, неспособным к самосовершенствованию. Большие размеры и неинтеллектуальность делают её более уязвимой, а уменьшение размеров, повышение скорости воспроизводства и повышение интеллектуальности — более опасной. Классический пример такой угрозы в биологическом царстве — саранча. Возможно, что такой робот будет содержать биологические элементы, так как они помогут быстрее усваивать вещества из окружающей среды. К настоящему моменту сделан трёхмерный принтер RepRap, который способен воспроизводить почти все собственные детали1.
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Человечество не обречено на вымирание. Даже если у нас мало шансов, то обязательно стоит
Часто путают глобальные катастрофы, ведущие к вымиранию человечества (англ. термин «existential risks))), и любые
Многие виды животных кончили тем, что были вытеснены более эффективными видами, или мутировали в
Древняя человеческая память в качестве самой страшной катастрофы доносит воспоминания о колоссальном наводнении. Однако
Возможность этого риска впервые указана Дрекслером, и исследована в статье Р. Фрейтаса «Проблема серой
Уже сейчас между компаниями, разрабатывающими ИИ, идёт жёсткая конкуренция и за внимание инвесторов и