Илон Маск бьет тревогу по поводу экзистенциального риска человеческого вида из-за искусственного интеллекта. Он блестящий лидер и один из самых острых умов в глазах общественности, поэтому для него беспокойство по поводу области, в которой я работаю, и отсутствие такого экзистенциального риска вызвало значительный когнитивный диссонанс. Мое инстинктивное несогласие с кем-то его уровня, а также с такими людьми, как Ник Бостром, Стивен Хокинс и Билл Гейтс, вызвало у меня любопытство. Их всех больше волнует эта тема (по крайней мере, в СМИ), чем что-то столь же важное, как глобальное потепление.

Ник Бостром написал бестселлер «Супер-интеллект», в котором описывается мир, в котором машинный интеллект доминирует над человеческим разумом и заканчивается нашим исчезновением. Каким бы мрачным ни было это мировоззрение, Бостром подходит к нему разумно и со свободными временными рамками. Он приводит веские аргументы в пользу работы над проблемой управления ИИ, в которой мы, люди, имеем возможность легко отключить ИИ, если он плохо себя ведет. Книга Бострома вдохновила множество дискуссий, конференций и известных людей присоединиться к этой гипотетической проблеме и узаконить ее. Это стало новой областью исследований.

Институт будущего жизни выпустил открытое письмо AI, в котором предостерегает от риска ИИ и поощряет исследования, которые гарантируют, что системы будут полезны для общества. Его подписали удивительное количество ученых, в том числе соучредители Deepmind Янн ЛеКун, Йошуа Бенджио и Джеффри Хинтон.

Ниже приводится краткое изложение моего анализа после борьбы с этим когнитивным диссонансом и принятия решения.

Во-первых, несколько быстрых определений:

Общий искусственный интеллект (AGI) - это интеллект машины, который может выполнять любую задачу, которую может выполнить человек.

Супер-интеллект (СИ) - это агент, чьи способности намного превосходят самые яркие и одаренные умы людей.

Почему они правы

Интеллект - это функция обработки информации. Наш мозг - это центр обработки информации, который мы не полностью понимаем, но мы знаем, что если мы разрежем свой мозг пополам, наш интеллект ухудшится, поскольку основной канал информации будет разрушен.

Из открытого письма ПРИОРИТЕТЫ ИССЛЕДОВАНИЙ ДЛЯ НАДЕЖНОГО И ПОЛУЧЕННОГО ИСКУССТВЕННОГО ИНТЕЛЛЕКТА (Рассел и др.):

По мере того, как возможности в этих и других областях пересекают порог от лабораторных исследований до экономически ценных технологий, возникает благоприятный цикл, когда даже небольшие улучшения производительности стоят больших денежных сумм, побуждая к увеличению инвестиций в исследования. В настоящее время существует широкий консенсус в отношении того, что исследования ИИ неуклонно прогрессируют и что его влияние на общество, вероятно, будет расти.

Системы обработки информации, которые мы встраиваем в технологии, постоянно совершенствуются. Есть золотая середина для улучшений и реинвестирования в эту сферу, которая порождает все более и более мощные возможности обработки информации и разведки. Такие люди, как Билл Гейтс и Илон Маск, лучше других понимают сложный процент и наблюдали это явление в области ИИ с точки зрения практикующих и исследователей, которых, вероятно, не было.

Результаты глубокого обучения и обучения с подкреплением в последние годы, в результате которых были созданы такие системы, как AlphaGo, Alexa и т. Д., Показали, что у нас есть не только продвинутые системы, но и продвинутые системы в той степени, в которой мы не до конца понимаем. Я смотрел Документальный фильм AlphaGo на Netflix на выходных, и что-то щелкнуло. Мы создали несколько систем по-настоящему умнее нас в узких областях, и нам сложно понять, почему система делает тот или иной выбор. При любом сложном росте мы будем создавать системы обработки информации, которые превосходят нас в достаточном количестве областей, чтобы их можно было считать общим интеллектом.

В то же время исследователи будут утверждать, что мы не знаем, как обучать, обучать или программировать такие системы прямо сейчас. Я тренирую модели глубокого обучения ежедневно, и в ближайшее время я не вижу, что случайно тренирую AGI. Нам нужно так много узнать о нейробиологии, теории обучения и интеллекте, что невозможно определить дату, когда мы узнаем достаточно.

Могу поспорить, что их ответ на этот вопрос таков: не имеет значения, где мы сейчас находимся, а имеет значение только скорость улучшения.

Проблема AGI асимметрична

По мере того, как наши технологии улучшаются в этой области, те, кто поддержал аргумент Бострома о том, что ИИ представляет собой экзистенциальный риск, увеличат вероятность своей правоты. Даже если оно увеличится с 0,0000001 до 0,00000000002, это все равно улучшение со 100% вероятностью. Если вы хотите быть на правильной стороне в континууме, вам следует встать на сторону Бострома и компании.

Если через 100 лет:

  • Мы не создали AGI, они могут сказать: «Ну, мы намного ближе, чем когда-либо прежде».
  • Мы построили один, но это не проблема, они могут сказать: «Уф! Наши усилия окупились! Мы рады, что уделили этому пространству достаточно внимания, чтобы созданный нами ИИ стал полезным для общества »
  • Мы создали сверхразум, который привел к массовым человеческим страданиям и смерти, они были бы правы и стали нашими маяками света и истины. Не удивлюсь, если они станут даже божествами.
  • Мы создали сверхразум, который привел к нашему вымиранию, тогда ничего не будет иметь значения.

Известные люди, такие как Илон Маск и Билл Гейтс, серьезно заинтересованы в том, чтобы быть на правильной стороне истории, поскольку они уже увековечены в наших книгах и знаниях на следующие несколько столетий. Илон Маск, управляющий автомобильной компанией по продаже беспилотных автомобилей, имеет еще больше причин быть осторожным и откровенно параноиком. Подключенный маяк автономных автомобилей, которыми управляют злонамеренные или непонятные силы, может иметь катастрофические последствия. Единственный недостаток того, что он параноик, с личной точки зрения, - это немного критиковать за то, что он параноик. Одним из краткосрочных преимуществ может стать то, что его сотрудники примут близко к сердцу его опасения при разработке безопасных автономных систем для автомобилей, производимых Tesla и Space X.

Таким образом, для высокопоставленных релевантных людей становится все более важным иметь ужасное мнение по этому поводу, но это не означает, что они верны. Да, вероятность может постепенно увеличиваться, но было очень мало значительных достижений, которые сигнализируют о неизбежном общем разведывательном процессе. И вообще, вам не нужно беспокоиться о аргументе, который ведут Маск и Цук, потому что их роли в обществе и истории имеют решающее значение для их аргументов. Маск говорит с более исторической точки зрения, а Цук говорит в настоящем. Фактически, они оба могут быть правильными со своими утверждениями, если вы измеряете их правильность в разные периоды времени.

Однако, поскольку системы ИИ обучаются и развертываются более автономно, чем когда-либо прежде, задача понимания и управления этими системами становится огромной, и, следовательно, высок риск. В этой области процветает множество исследований, направленных на определение различных проблем безопасности искусственного интеллекта, и многие умные люди работают над этим. Я предполагаю, что в ближайшие три-пять лет на этих исследователей будет значительный спрос со стороны ведущих технологических компаний. Если бы сенсационные непроверяемые заявления об ОИИ оказали влияние на результаты столь необходимого исследования, это можно было бы рассматривать как чистую выгоду. Вот отличная статья о некоторых конкретных проблемах в AI Safety, где вы можете поцарапать поверхность заземленной области исследования головой, а не в песок.