«Бунт» ИИ

Спонтанный бунт компьютеров выглядит скорее образом, пришедшим из кино, чем реальной возможностью, поскольку у ИИ нет своих желаний, пока человек ему их не создаст. Однако некоторые виды ИИ, например, создаваемые с помощью генетических алгоритмов, уже по методу своего создания настроены на борьбу и выживание. Далее, какова бы ни была главная цель у ИИ, у него будет одна общая для всех вариантов подцель — выжить, а значит, охранять себя от уничтожения. А лучший вид обороны — нападение. Наиболее реальной является опасность того, что человек даст ИИ команду, не продумав все последствия её выполнения и не оставив лазейки, чтобы её изменить. (Например, как в том анекдоте, где человек велел роботу удалить все круглые предметы из комнаты — и тот оторвал ему голову.) Вероятность самозарождения ошибочных команд мала — кроме случая использования генетических алгоритмов.

Понравилась статья? Поделиться с друзьями:
Добавить комментарий
SQL - 48 | 0,144 сек. | 17.41 МБ