Сила интеллекта: глава SpaceX Илон Маск назвал возможную причину начала третьей мировой войны

Глава компаний SpaceX и Tesla инженер Илон Маск полагает, что третья мировая война начнётся из-за соперничества между странами в области искусственного интеллекта. Так он прокомментировал слова президента России Владимира Путина, отметившего, что лидер в сфере создания искусственного интеллекта станет властелином мира. В беседе с RT учёные, специализирующиеся на долгосрочном прогнозировании и системном анализе, оценили, насколько реальны опасения Маска.

Конкуренция стран в борьбе за первенство в области искусственного интеллекта с высокой долей вероятности приведёт к началу третьей мировой войны. Так считает глава компаний SpaceX и Tesla, инженер и миллиардер Илон Маск.

«Скоро и Китай, и Россия будут сильны в компьютерных технологиях. ИМХО, третья мировая война, скорее всего, начнётся из-за соперничества между странами за превосходство в области искусственного интеллекта», — написал Маск в своём Twitter.

China, Russia, soon all countries w strong computer science. Competition for AI superiority at national level most likely cause of WW3 imo.

— Elon Musk (@elonmusk) 4 сентября 2017 г.

Такое громкое заявление стало ответом на слова президента России Владимира Путина, который в ходе форума в Ярославле сказал, что миром будет править страна, ставшая лидером в сфере искусственного интеллекта.

«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира», — заявил Путин.

При этом российский лидер, выступая на Всероссийском открытом уроке «Россия, устремлённая в будущее», подчеркнул, что такая монополия не должна быть сосредоточена в одних руках.

«Поэтому мы (если станем лидерами в этой сфере) будем делиться этими технологиями со всем миром — как мы сегодня делимся атомными технологиями, ядерными технологиями. Но чтобы не стоять в конце очереди, нужно уже сегодня работать над этим», — подчеркнул президент.

Глава SpaceX не в первый раз выступает с противоречивыми заявлениями о перспективах высоких технологий и связанным с ними будущим человечества. Не далее как в середине августа группа из 116 экспертов из 26 стран во главе с Илоном Маском направила в ООН обращение с призывом запретить автономные вооружения.

По мнению специалистов, развитие и эволюция автоматизированной боевой техники может привести к резкому технологическому скачку, «военной революции», которая по своему масштабу и значению сравнится с изобретением пороха или созданием ядерного оружия.

«Когда автономное оружие будет развито, оно позволит вести военные действия на таком небывалом уровне и в столь короткие сроки, что человек будет не в состоянии это даже осознать. Такие технологии могут стать оружием, которое диктаторы и террористы смогут применять против мирного населения», — говорится в заявлении экспертов.

Обсуждение в ООН вопроса о запрете автономного оружия должно было начаться 21 августа, но его перенесли на ноябрь 2017 года.

В середине июля Маск назвал искусственный интеллект самой большой опасностью, с которой сталкивается человечество: «По роду своей деятельности я имею доступ к самым передовым разработкам в области искусственного интеллекта. Я думаю, люди должны быть обеспокоены этой проблемой».

По словам миллиардера, ставшего прототипом голливудского Тони Старка — «Железного человека», сыгранного Робертом Дауни-младшим, вопрос искусственного интеллекта — это тот редкий случай, когда человечеству следует проявлять активность в предварительном регулировании, а не в реагировании на действия.

«Потому что к тому времени, когда мы будем реагировать, станет уже слишком поздно», — подчеркнул он.

Маск тогда отметил, что жизненно важное значение имеет широкое государственное регулирование в этой области.

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учётные записи электронной почты и манипулируя информацией. Перо сильнее меча», — заявил бизнесмен.

После этих слов Маск вступил в спор с основателем Facebook Марком Цукербергом, который не согласился с главой SpaceX, утверждая, что «искусственный интеллект должен сделать нашу жизнь в будущем лучше, а предсказывать сценарии конца света очень безответственно».

Между тем в апреле изобретатель анонсировал создание в обозримом будущем технологии чтения мыслей его компанией Neuralink Corp.

«Примерно через четыре года мы планируем представить на рынке продукт, который сможет помочь пострадавшим от серьёзных повреждений мозга (инсульт, рак, врождённые патологии)», — рассказал Маск.

При этом основные силы планируется направить на создание технологии для помощи людям, не способным к вербальному общению из-за травм или паралича.

Примерно в это же время информацию о разработке технологии, которая позволит набирать текст силой мысли, подтвердил Цукерберг. Он назвал это первым шагом на пути к прямому обмену чувствами и мыслями.

Разработка компанией Neuralink технологий перенесения информации из мозга человека на цифровые носители позволит проводить и обратную операцию. То есть компьютер сможет напрямую загружать информацию в мозг.

Подобный интерфейс, называемый «нейронными кружевами», должен работать благодаря имплантированным в мозг и обеспечивающим прямую связь с программой электродам. Если его удастся выстроить на практике, то «вплетённые» в мозг «кружева» смогут, например, позволить человеку подключаться к интернету силой мысли.

При этом в феврале Маск, выступая на форуме World Government Summit в Дубае, выразил мнение, что человечеству придётся слиться с машинами, чтобы успевать за ростом мощностей вычислительной техники. По его словам, компьютеры, которые могут общаться между собой на скорости в триллионы бит в секунду, вытеснят с рабочих мест людей, скорость передачи информации между которыми составляет всего около 10 бит в секунду.

«Высокочастотный интерфейс, подключаемый к мозгу, поможет достигнуть симбиоза между машинным и человеческим мозгом и, возможно, решит проблему контроля за машинами и полезности людей», — отметил миллиардер.

В ходе выступления Маск выразил опасения касательно вероятного соперничества людей с общими системами управления, которые вытеснят большинство людей с их рабочих мест в ближайшем будущем.

Гонка интеллектов 

Научный руководитель Центра долгосрочного прогнозирования и стратегического планирования при МГУ Сергей Малков в комментарии RT заявил, что горячая фаза гонки государств в развитии искусственного интеллекта уже началась. По его словам, уже сегодня компьютер может успешно выполнять рутинные операции, помогая человеку. 

«Но угроза заключается в том, что сейчас хотят заменить и интеллектуальный труд машинным. Это уже серьёзная вещь — замена человека в принятии решений. Это большая угроза, поскольку человек в принятии решений пользуется соображениями не только утилитарными, но и этическими. У машин этого нет, и решения будут приниматься сугубо рациональные», — сказал эксперт. 

В качестве примера он привёл участие в торгах на бирже систем, которые запрограммированы на получение максимальной прибыли. Их использование, отметил Малков, может привести к экономическим кризисам. 

«Подобные системы будут внедряться в военной области, где важна быстрота принятия решений. Например, в предупреждении и парировании ядерного удара. Но если в таких системах случится сбой, то они могут начать действовать без реальной угрозы ядерного удара. И это действительно может привести к развязыванию серьёзного конфликта, в том числе и ядерного», — пояснил он.

Похожую точку зрения в интервью RT высказал член Ассоциации футурологов, ведущий научный сотрудник Института системного анализа ФИЦ ИУ РАН Александр Коновалов. Он отмечает, что в этой сфере угроза для человека — вполне реальна.

«Если искусственным интеллектом будут оснащать средства ведения войны — боевых роботов, системы кибервойны, которые будут использоваться для того, чтобы проводить кибератаки на инфраструктуру противника, то искусственный интеллект реально может выйти из-под контроля. Он в результате расчётов может прийти к выводу, что человечество склонно к самоуничтожению, а потому неразумно. А значит, его самого можно уничтожить», — сказал Коновалов. 

По словам учёного, уже сейчас роботы могут восстать против человечества. И эта угроза растёт с каждым годом, поскольку разрабатываются и принимаются на вооружение новые боевые роботы и военные системы с искусственным интеллектом. 

«На применение искусственного интеллекта в системах противостояния должен быть введён такой же запрет, как и на распространение ядерного оружия. Переговоры государств по этому поводу должны начаться немедленно, в самое ближайшее время. Результаты переговоров должны быть закреплены в международных конвенциях. Мы не должны пускать искусственный интеллект в военную сферу», — пояснил учёный. 

Источник: russian.rt.com

Комментарии: