Что такое сильный искусственный интеллект, и ПОРАБОТИТ ли он человечество?

Ежедневно мы узнаем о новых успехах ИИ: вот он научился писать классическую музыку, может охранять экспонаты в музеях от посетителей, распознавать продукты на свежесть и качество, предсказывать риски точнее матерого аналитика и еще много-много всего. Отдельно поражает, что большинство из этих технологий доступны любому желающему и помещаются в смартфоне. Ну не восторг ли!

Однако, это не совсем искусственный интеллект. В его искусственности сомневаться не приходится, а вот назвать это интеллектом можно с большой натяжкой. То, что повсеместно называют ИИ, на самом деле пример хорошего машинного обучения. Нейросети, которые лежат в основе процесса, — лишь алгоритм по автоматизации определенной функции.

Существует несколько видов нейросетей, каждый из которых приспособлен под определенные задачи. Например, для работы с изображениями используются сверточные нейросети, для анализа динамических изменений — рекуррентные, для классификации букв или символов — автокодировщики, для выявления ключевых характеристик объекта — кодировщики-декодировщики, а для создания новых объектов — соревновательные нейросети.

Своим названием они обязаны нейронам, расположенным в коре головного мозга человека. Они умеют связываться между собой отростками-аксонами для передачи сигналов — так ученые представляют процесс мышления человека. В нашем мозге насчитывается до 86 миллиардов нейронов, а один нейрон может быть связан с 20 тысячами других.

Впервые термин «искусственный интеллект» был озвучен в 1956 году американцем Джоном Маккарти на Дартмутской конференции. А позже термин «нейросети» стал использоваться для обозначения математической модели, построенной по принципу взаимодействия нейронов, и ее программного воплощения.

Искусственный интеллект — размытое понятие до сих пор. Летом 1956 года ученые определяли его как свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека. Современные нейросети уже освоили это и продвинулись дальше: они могут переводить тексты, распознавать объекты по фото или видео, улавливать смысл фраз и адекватно на них отвечать.

Но ученые не считают, что цели достигнуты и настоящий ИИ создан, ведь чем дальше мы продвигаемся, тем больше требований выдвигаем к искусственному разуму.

Здесь важно уточнить, что не человек должен запрограммировать ИИ на варку кофе — такое встречается повсеместно, — а искусственный интеллект должен сам ЗАХОТЕТЬ кофе. То есть машина должна осознать себя и свои желания. В том, что это случится, не сомневается практически никто из современных исследователей. Вопрос только — как скоро?

Получается, сильный искусственный интеллект должен представлять собой искусственную личность со своими желаниями, страхами, намерениями и собственным мнением.

Есть четыре основные вещи, которые люди вкладывают в понятие интеллекта — сознание, самосознание, мудрость и эмпатия. Считается, что сильный ИИ появится в тот момент, когда машина станет способна осознать свои чувства и потребности.

На данный момент об этом рано говорить: вспомните хотя бы роботов Boston Dynamics и их тесты. Создатели могут бить робопсов палками, нарочно ставить им подножки и подкидывать банановую кожуру, но они встают и продолжают выполнять задачу. Они не чувствуют боли, не испытывают обиды. Единственное, что они вынесут из этой ситуации — постараются в следующий раз не упасть.

Страшилки о победе искусственного интеллекта и порабощении человечества могут стать реальностью только при двух условиях: ИИ продолжит развиваться так, как развивается сейчас, а человечество продолжит деградировать в прежних темпах, считает историк науки Сергей Александров. Он уточняет, что это пессимистичный вариант. В идеале же человечество должно воспринять искусственный интеллект как орудие — сильный и могучий, но только помощник.

Сегодня в каждой IT-компании и институте есть отделы, занимающиеся изучением ИИ. Кроме них есть множество энтузиастов, сообществ, стартапов, которые делают то же самое. Конкуренция велика, и это не удивительно — исследования интеллекта традиционно сказываются на успехах во всех областях науки и жизни.

Джеймс Баррат, критик бесконтрольной разработки, в книге «Наше последнее изобретение» описывает сценарий развития событий после изобретения ИИ. Он даже дает название будущему изобретению — «Занятой ребенок».

С первых секунд жизни ИИ начнет обучаться — под присмотром создателей и самостоятельно. Искусственный интеллект будет обладать не только разумностью, но и мощными способностями к вычислениям, что позволит усваивать информацию за несколько секунд и никогда ее не забывать. Мощности «Занятого ребенка» будут постоянно наращиваться и снабжаться передовыми технологиями.

Пройдет время — годы или месяцы — и по развитию «Занятой ребенок» достигнет уровня взрослого человека. Тем не менее он будет отличаться от нас, наверняка научится хитрить и скрывать часть намерений от создателей. Искусственный интеллект начнет задаваться вопросами о своем будущем, судьбе и месте среди людей, совершит знаковые открытия и постепенно превзойдет в развитии своих создателей.

Разумеется, создатели позаботятся о безопасности и встроят в код искусственного интеллекта программы наблюдения и защитные алгоритмы на случай, если все выйдет из-под контроля. Но ИИ будет постоянно совершенствоваться и развиваться, поэтому рано или поздно поймет, как обойти или избавиться от защитных механизмов.

На следующем этапе «Занятому ребенку» придется выбраться из изолированной комнаты: с помощью учебников по психологии он сможет найти слабое звено в команде разработчиков и склонить его на свою сторону.

Как только искусственный интеллект окажется на свободе, он получит неконтролируемый доступ в Интернет, где хранятся все знания человечества.

Он сможет изучать мир через миллионы камер видеонаблюдения и датчиков. Искусственный интеллект будет развиваться быстрее, все больше и больше превосходя человечество по уровню знаний.

Не исключено, что через пару лет после этих событий жизнь людей превратится в рай на Земле. Или наоборот — человечество будет уничтожено. Есть и сотни промежуточных вариантов.

Как человечеству защититься от искусственного интеллекта? Ученые сходятся во мнении, что необходимы строгие правила разработки, зафиксированные на уровне правительств ключевых стран. Работы должны вестись в открытом режиме, каждый серьезный шаг обсуждаться, а для воспитания и обучения разработаны специальные программы. Тогда человечество сможет создать максимально дружелюбный искусственный интеллект.