Термины

В этой работе ряд терминов употребляется в следующих значениях (подробнее каждый термин будет разъяснён в тексте):

Doomsday argument — Доказательство Конца Света, или иногда рассуждение о конце света Картера-Лесли, сокращённо — DA.

NB/C-конвергенция — означает наблюдающуюся в современной науке тенденцию к слиянию и обмену информацией, методами и результатами между четырьмя ключевыми технологиями nano-bio-info-cogno.

Агент — вещество, вирус, бактерия, поток энергии или любой другой распространяющийся фактор воздействия, причиняющий смерть.

Глобальная катастрофа — событие, приводящее к необратимому вымиранию всех людей. События, которые затрагивают весь мир, но не приводят к тотальному вымиранию, называются в этом тексте «очень большими катастрофами».

«Дружественный» ИИ — универсальный сильный ИИ, система целей которого устроена так, что он не будет причинять вред людям и будет уменьшать риск глобальной катастрофы. Его противоположность -недружественный ИИ, система целей которого ведёт к гибели людей и даже вымиранию человечества.

Закон Мура — исходно относится к удвоению числа транзисторов на микропроцессорах каждые два года. Говоря о законе Мура, мы будем иметь в виду закон Мура в широком смысле слова, как процесс экспоненциального роста ряда ключевых технологий с периодом удвоения в несколько лет.

ИИ — Искусственный интеллект, понимаемый как Универсальный искусственный интеллект, способный к самосовершенствованию и любой интеллектуальной деятельности, доступной человеку.

Машина судного дня, оружие судного дня — любое устройство, вещество или способ, которые разработаны специально для окончательного и необратимого уничтожения человечества.

Ошибки — по-английски ‘cognitive biases’, что можно перевести как «предубеждения» или «отклонения в ходе рассуждений», или, если употребить точный психологический термин, «когнитивные искажения».

Постапокалиптический мир — то, чем может стать Земля, в случае, если на ней произойдёт очень большая катастрофа, однако какое-то число людей выживет.

Сверхтехнологии — принципиально новые технологические способы  влияния  на  внешний  мир,  способные  его  полностью трансформировать и/или создать глобальные риски, в первую очередь это нано-, био-, когно- и ИИ-технологии

Сингулярность — гипотетическая точка во времени в районе 2030 года, когда ряд прогностических кривых уходят в бесконечность. Связывается с крайне быстрым ростом технического прогресса, особенно компьютеров, нано- и биотехнологий, исследований мозга и систем ИИ и предполагает качественное изменение человечества. Термин введён в употребление Вернором Винджем в 1993 году.

Структура катастрофы — взаимосвязь научных заблуждений, конструкторских недоработок, операторских ошибок и цепной реакции факторов разрушения, ведущих к катастрофе.

Понравилась статья? Поделиться с друзьями:
Добавить комментарий
SQL - 48 | 0,160 сек. | 12.48 МБ