Хотя армия США определённо нацелена на полную автоматизацию и замену людей роботами, до достижения этого ещё не менее десяти лет, а скорее всего, значительно больше. Как мы уже говорили, теоретически некая роботизированная армия может получить неверный приказ, и начать атаковать всё живое, став при этом недоступной для отмены команд. Чтобы стать реальной угрозой, это должна быть всемирная, распределённая по всей Земле огромная армия, не имеющая конкурентов. Надёжность такой армии зависит только от ее информационной неуязвимости к неверным командам, то есть является вопросом информационной безопасности. Сейчас мы не можем решить его теоретически. С одной стороны, мы должны помнить, что все компьютерные устройства, изначально представлявшиеся как неуязвимые, были взломаны — от Windows до PSP. C другой стороны, система управления ядерными войсками ни разу не была взломана. В будущем информационный взлом будет осуществить проще, так как достаточно будет одному невидимому глазу нанороботу проникнуть в центральный управляющий компьютер, чтобы он начал выдавать неверные команды.
0
Понравилась статья? Поделиться с друзьями:
Вам также может быть интересно
Распространение мутагенов (огромное количество разных веществ), накопление генетических дефектов в результате прекращения генетического отбора,
Очевидно, что перенаселение само не может никого истребить, но может создать условия, при которых
Вклад вероятностного сдвига из-за прекращения действия защиты, даваемой антропным принципом в суммарную вероятность вымирания
Теоретически возможно облучение планеты с орбиты с помощью специальных спутников гамма-лучами (нечто вроде искусственного
Вообще, надо различать четыре основных вида недружественных ИИ: 1. ИИ, который имеет одну из
В разделе 16.5 мы рассмотрим биологические аспекты генетической деградации (и вероятность того, что она