Хотя армия США определённо нацелена на полную автоматизацию и замену людей роботами, до достижения этого ещё не менее десяти лет, а скорее всего, значительно больше. Как мы уже говорили, теоретически некая роботизированная армия может получить неверный приказ, и начать атаковать всё живое, став при этом недоступной для отмены команд. Чтобы стать реальной угрозой, это должна быть всемирная, распределённая по всей Земле огромная армия, не имеющая конкурентов. Надёжность такой армии зависит только от ее информационной неуязвимости к неверным командам, то есть является вопросом информационной безопасности. Сейчас мы не можем решить его теоретически. С одной стороны, мы должны помнить, что все компьютерные устройства, изначально представлявшиеся как неуязвимые, были взломаны — от Windows до PSP. C другой стороны, система управления ядерными войсками ни разу не была взломана. В будущем информационный взлом будет осуществить проще, так как достаточно будет одному невидимому глазу нанороботу проникнуть в центральный управляющий компьютер, чтобы он начал выдавать неверные команды.
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Если люди овладеют генетическими технологиями, то это может позволить как устроить крах биосферы невероятных
Распространение опасных биологических форм может привести к полному заражению ими биосферы. В этом случае
Подробно я рассматриваю этот вопрос в статье «Природные катастрофы и антропный принцип» [Турчин 2007b].
В будущем можно ожидать возникновения новых видов глобального оружия, основанного на новых физических принципах.
Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо
Весь разговор о предотвращении глобальных рисков имеет смысл, только если сохранение человечества является целью,