"Восстание машин: Часть 1. Идея появления самосознания у ИИ"

На тему сознания у роботов было снято множество фильмов и сериалов. И когда мы слышим словосочетание "восстание машин", к нам на ум сразу приходит апокалипсис "по Голливуду" - всем известные фильмы, такие как "Терминатор", "Матрица", "Я, робот" или сериалы "Сотня" и "Мир Дикого Запада". В этих работах затронутая тема используется как метафора для исследования сложных этических и социальных вопросов, связанных с прогрессом технологий и отношениями между человеком и его творением. Сейчас вопрос о войне искусственного интеллекта с его создателем чаще встречается на страницах научной фантастики, на экране кинотеатров и в компьютерных играх, чем в реальности. Но это только пока.

Может ли у искусственного интеллекта появиться сознание в реальности? Гипотетически этот сценарий не исключен, и это событие может иметь различные последствия для человечества в зависимости от того, как именно ИИ начнет воспринимать себя и взаимодействовать с окружающим миром. Однако сложность вопроса в том, что ни у ИИ, ни у сознания нет общепринятых определений.

Для начала разберемся со словом "сознание". Оно имеет различные значения. В медицине оно часто используется для оценки бодрствования человека - "пациент не был в сознании". Но когда мы задаемся вопросом, может ли ИИ обладать сознанием, нам, скорее, интересно не медицинское значение, а то, как оно понимается в психологии. В этом смысле сознание можно представить как состояние психической жизни организма, выражающееся в субъективном переживании событий внешнего мира, а также в отчёте об этих событиях и ответной реакции на них. Описанные выше процессы не являются общепризнанными в науке как единственно возможные определения. Что до ИИ - под искусственным интеллектом понимают процесс обучения машин учиться, действовать и думать, как человек. И, так как мы все еще до конца не понимаем, что такое сознание и как именно оно обеспечивается мозгом, на вопрос ответить однозначно утвердительно или отрицательно нельзя. Однако можно наметить направления, следуя которым мы можем получить сознательные машины.

Самая простая идея — это скопировать принципы работы человеческого мозга. Одним из примеров являются нейросети - математические модели, имитирующие работу нейронных сетей головного мозга, которыми сейчас умеет пользоваться практически каждый. Они начинаются как сеть "нейронов", соединенных друг с другом, и совсем ничего не знают — почти как мозг младенца. Способ, которым нейросеть "учится", заключается в том, что она пытается выполнить задание и сначала действует случайным образом. Затем она получает обратную связь в виде правильного ответа. Связи между нейронами, которые привели к правильному ответу, усиливаются, а к неправильному — ослабляются. После многих проб и обратной связи сеть формирует правильные нейронные пути, и система обучается правильно решать данную задачу. Однако сама по себе искусственная нейронная сеть, хоть и отражает некоторые нейробиологические принципы, не обладает сознанием и не способна решать задачи, которым её никогда не обучали.

Второй, более радикальный подход, — это копия всего мозга. Ученые берут настоящий человеческий мозг, различными методами исследуют его нейронные связи, чтобы воспроизвести их на компьютере в виде программы. Если этот метод когда-нибудь будет успешным, у нас будет компьютер, способный на все, на что способен мозг — ему просто нужно будет учиться и собирать информацию. Насколько мы далеки от достижения эмуляции всего человеческого мозга? Пока что ученые и разработчики смогли смоделировать мозг плоского червя размером 1 мм, который состоит всего из 302 нейронов. Этот проект называется "OpenWorm". Чтобы представить, сколько еще нужно преодолеть, следуя этим путем, вспомним, что человеческий мозг состоит из 86 млрд нейронов, связанных триллионами синапсов.

Последний метод самый простой, но, вероятно, самый пугающий. Предлагается создать машину, двумя основными навыками которой будут исследования искусственного интеллекта и внесение изменений в сам код, что позволит ей не только изучать, но и улучшать свою собственную архитектуру. Мы научим компьютеры быть "компьютерными учеными", чтобы они могли сами начать разработку алгоритмов. Возможно, это самый вероятный способ получить сознательную машину в ближайшее время. Есть ли примеры такого подхода уже сейчас? Близкое понятие — это автоматическое машинное обучение (AutoML), которое успешно внедряют крупные корпорации, например, Google. Идея заключается в том, что автоматизируется сам процесс машинного обучения: алгоритмы сами подбирают наиболее оптимальные алгоритмы для определенной задачи. Сами алгоритмы-подборщики для этого специально обучаются людьми. До сознания, как такового, тут, пожалуй, все еще далеко.

Может ли сознание само по себе возникнуть в машине в результате других комбинаций и взаимодействия элементов, которых нет в человеческом теле? Чтобы ответить на этот вопрос, необходимо ненадолго остановиться на понятии "машина". Что такое машина, кроме очевидно представляющегося серебристо-металлического антропоморфного робота с руками и ногами? В данном контексте мы говорим о чем-то, состоящем из многих небиологических компонентов, в основном транзисторов, сделанных из кремния и других материалов. Каждый транзистор представляет один "бит". Если через него протекает ток, мы говорим, что значение бита равно 1, а если через него ток не течет, значение бита равно 0.

В свою очередь природа, включая человеческий мозг, является квантовой, и цифровые вычисления, которые мы производим с битами, примитивны по сравнению с тем, что делается в природе. Можно сказать, что человеческий мозг - тоже своего рода компьютер, и даже более продвинутый в отличие от "низших" компьютеров, состоящих из транзисторов. Эта человеческая "машина" сделана не из кремния, она намного сложнее, чем изобретенные нами цифровые компьютеры, и в настоящее время она более интеллектуальна. Так что, хотя нам трудно это принять, но мы тоже в каком-то смысле "машины", способные к обучению. Наше поведение продиктовано не только внутренним программным обеспечением, с которым мы родились (например, ДНК), но и опытом, который мы получаем в своей жизни, который меняет наше поведение. Более того: мы тоже умеем производить такие "новые машины". Мы называем их "дети".

Поэтому, если относиться к сознанию, как к некой функции любого мозга, будь то мозг из плоти или из его кремниевой имитации, то в идее возникновения самосознания у роботов нет ничего сверхъестественного. Достаточно создать искусственную систему и поместить ее в достаточно сложную среду, максимально симулирующую реальным мир, в результате чего в железяке может возникнуть сознание. К счастью, у человечества уже появились различные идеи, как протестировать систему, чтобы мы могли назвать ее разумной. Например, широко известный тест Тьюринга.

Однако нам следует помнить о том, что разумная машина, так же, как и человек обладающей свободной волей, может совершать неожиданные вещи, некоторые из которых будут иметь крайне негативные последствия. "Машинное обучение" означает, что эти машины могут изменять свое поведение на основе своего "жизненного" опыта, как это делают наши дети, независимо от того, насколько сильно мы пытаемся применить родительский контроль. В принципе, если допускать вероятность обретения роботами самосознания, то невозможно гарантировать, что разумные машины никогда не сделают ничего плохого.

Команда «?w?» выражает благодарность Руслан Шестаков за пищу для размышления. Так же мы можем более подробно разобрать любую из тем, затронутых в этой статье. Присылайте свои пожелания в предложенные записи. Если вам понравилось – пожалуйста, поделитесь этим постом.

Над текстом работали Kirill Molodovsky и Валя Винтер

Автор идей для изображения: Антон Русанов

Автор музыкальной композиции: vk.com/artist/thomashewittjones

Источник: vk.com

Комментарии: