Что такое сознание? Кто мы? Есть ли сознание у беспилотника?

Что такое сознание (самосознание)? Это умение думать о себе в третьем лице. Биологическая цель этого – возможность смоделировать свои действия. Только самосознание позволяет подумать "Если я протяну руку, то смогу сорвать яблоко". Существо, лишённое самосознания, может только сорвать яблоко, но не может подумать об этом, не сделав этого.

Как и всё в природе, самосознание - аналоговая штука: в некоторых случаях можно точно сказать, есть оно или нет, а в некоторых переходных случаях определить наличие самосознания довольно затруднительно. У комара нет самосознания, есть только рефлексы: он просто летит на тепло и запах тела, и уворачивается от движущихся предметов. Точно также и у одноклеточной бактерии есть только реакция на раздражители. Реакции на раздражители – это первый шажок к сознанию, без которого эволюционное появление сознания было бы невозможно.

Выделение себя из окружающей среды - это базовая функция любой системы, в т.ч. всего живого. По устаревшему Энгельсу: «Жизнь есть способ существования белковых тел, существенным моментом которого является постоянный обмен веществ с окружающей их внешней природой». Соответственно, начиная с простейших организмов, нервная система делит поступающие сигналы на внутренние и внешние. Естественным образом происходит информационное разделения на "я" и "не я". Это разделение - один из базовых принципов работы нервной системы.

Самосознание - это дальнейшее развитие рефлексов и реакции на раздражители. Если собаку ударить палкой, собака рефлекторно отбежит. В следующий раз собака отбежит, как только увидит, что человек нагибается за палкой, потому что смоделирует воздействие человека и палки на себя, вспомнит и представит свою боль. Это простое самосознание.

Другие примеры простого самосознания собаки или же годовалого ребёнка:

- Знать параметры СВОЕГО тела (пролезу ли я в щель, выдержит ли полка вес моего тела, перепрыгну или нет через препятствие).

- Знать СВОЁ имя/кличку (т.е. идентифицировать себя с именем, а не просто проявлять рефлекс на набор звуков).

- Память СВОИХ действий (помнить, где спрятал еду).

- Понимание причинно-следственные связи СВОИХ действий (понимать, что наказывают за разбитую ТОБОЙ вазу).

Далее самосознание ребёнка развивается: сознание всё более детально и долгосрочно планирует СВОИ действия (т.е. мозг моделирует себя, своё поведение). А у взрослого человека этот принцип обрастает такими социальными фишками, как самооценка, самокопание, поиск смысла своей жизни и т.д.

Вопрос «Есть ли сознание у разных живых существ» - это неверная постановка вопроса. Нет чёткой границы. Есть разные уровни сложности нервных систем организмов. Сознание человека – «я - Иван Иванович, любите меня», сознание кошки – «сейчас меня будут гладить а я буду мурчать», сознание таракана «светло – опасность», сознание инфузории «набор сигналов – реакция».

Но можно однозначно утверждать, что у неживой материи сознания нет, т.к. нет системы обработки информации.

Нет конкретного момента появления сознания, всё непрерывно, аналогово. Сначала есть неживая материя, потом появляется ДНК, потом реакции на раздражители, потом ощущения, потом сознание. До появления зиготы нельзя говорить о человеке. Есть мужская и женская половые клетки. С появлением зиготы, в общем, тоже нельзя говорить о человеке, можно говорить о зиготе (химические реакции на раздражители), потом об эмбрионе (биологические реакция на раздражители), потом о младенце (есть ощущения), только потом о ребёнке - уже человеке (есть сознание). Всё последовательно, эволюционно. Эмбрион человека проходит все стадии эволюции организмов на земле – от одноклеточных – до Homo Sapiens Sapiens. В том числе, проходит все стадии эволюции сознания земных организмов.

Разумность и самосознание – это просто свойства информационных систем. В том числе нервных систем живых существ. Антропоцентричное мировоззрение присваивает понятия «разум» и «сознание» исключительно человеку. Такой подход в корне неверен. Он также примитивен и недальновиден, как геоцентричная система мира. Но у него есть один большой плюс: видимая лёгкость определений: если информационная система выполняет человеческие функции хуже человека – значит она неразумна, как неразумны животные. А если она выполняет человеческие функции лучше человека, т.е. она «умнее» человека – значит она разумна. В этом случае человек готов поверить, что система сознаёт себя, если она сможет его убедить в этом.

Что такое разум в широком, не антропоцентричном, смысле? Это информационная система с высокой производительностью, способная адекватно анализировать широкий круг задач, и давать правильные ответы на сложные вопросы. Не важно, биологическая это система или нет.

Что такое жизнь? Это программа, в которой содержится информация о своём устройстве, при помощи которой она может воспроизвести такую же программу. Биологическая жизнь также включает физическую (биологическую) систему, в которой содержится эта программа. Физическая система осуществляет обмен веществ с окружающей средой для поддержания функционирования программы и её распространения (размножения).

До настоящего времени мы наблюдали жизнь, разум и сознание, существующие только на биологическом носителе. Но нет никакой научной привязки жизни, разума и самосознания только к биологической системе обработки информации. Эта привязка – лишь инерция мышления.

Разум, сознание, жизнь - это вещи универсальные, более высокого порядка, чем тело или машина. Они могут использовать и тело и машину. Знак равенства между телом и машиной (потенциально) в том, что и то и другое - сосуды жизни, разума и сознания.

Для возникновения полноценного самосознания нужны следующие вещи:

- Органы чувств. Источник информации о внешнем мире и о внутреннем состоянии организма.

- Инстинкты - мотивация действий. Прежде всего, инстинкт самосохранения.

- Рефлексы - реакция на раздражители. Присутствуют у всех живых существ. Но у искусственно созданного сознания могут и отсутствовать.

- Развитый мозг для обработки информации и просчёта вариантов действий,

- Алгоритмы распознавания образов и других сложных сигналов от окружающей среды.

- Большой объём памяти для хранения полученного опыта.

Простой и короткий перечень, правда? Никакого чуда, никакой "божьей искры", никакой магии. Но зато, миллионы лет эволюции, жестокой шлифовки естественным отбором.

Чудо не в моменте, когда разумная жизнь, якобы, появилась по щелчку божьих пальцев за один день. Чудо том, какой невероятный путь был пройден жизнью: начиная с молекул белков в первичном бульоне, самореплицирующихся по химическим законам, и до нас, людей, самодовольно и недальновидно считающих себя венцом природы.

К вопросам сознания и, вообще, к вопросам человеческого бытия бесполезно подходить со стороны религии или философии прошлого. Ни богословы, ни философы до середины XX века ничего толком не знали ни об эволюции, ни о нейронах, ни о теории информации и нейросетях. Нужно рассматривать вопросы сознания вооружившись последними научными и практическими знаниями в этих областях.

Хороший айтишник, занимающийся нейронками, больше знает о природе сознания, чем Платон, Далай-лама или Кант, наплодившие кучу размытых терминов, которые крайне эфемерно и запутанно описывают реальность.

Благо, сейчас любой человек имеет хотя бы общее представление об устройстве компьютера. Аналогия между компьютером и мозгом позволяет достаточно хорошо понять сущность сознания.

Что такое человек? Это лишь его ДНК (строение тела и прошитые инстинкты) и его жизненный опыт. Ничего больше.

Вся информация о строении человека записана в ДНК зиготы. Объём информации в ДНК – удивительно мал, всего порядка 1 гигабайта. Человек не просто познаваем. Человек – это биоробот, или, точнее, биологическая машина.

Заложенная программа,«прошивка» человека, занимает не сильно больше, чем прошивка (UEFI) современных компьютеров. Правда, человеческая прошивка оптимизирована сильно лучше, чем, современный говнокод (извините).

Само собой, основной объём информации в ДНК – это информация о физическом устройстве нашего организма. А на описание когнитивной деятельности отводится едва ли больше 20 мегабайт, которые лишь в самых общих чертах определяют принципы обработки информации мозгом.

Подавляющее большинство принципов обработки информации появляются в процессе обучения. И за годы непрерывного обучения мозг анализирует петабайты данных и сохраняет в памяти терабайты информации.

В основе нашей личности лежат инстинкты (выживание, питание, защита и нападение, половой инстинкт). Именно это определяет вектор нашего существования и развития.

Все остальные когнитивные функции – лишь дополнительные программы, которые нужны для лучшей реализации инстинктов. Всё обучение с момента рождения направлено лишь на реализацию инстинктов.

Что такое «я»? Это модель нашего организма (физическая + ментальная), построенная мозгом на основе сигналов от органов чувств и всего предыдущего опыта взаимодействия с окружающим миром. Мозг использует эту модель для моделирования ситуаций как физических («этого парня я в драке уделаю»), так и ментальных («хватит, неделю пить не буду», «забыл про день рождения у Димки, там придётся выпить всё-таки»).

Возникает некоторая путаница: «Кто тот я, который думает про меня?». Думает всегда мозг про модель тела и личности, которая у него есть. Компьютерная аналогия: процессор выполняет программу по 3D-визуализации такого же процессора. Причём, нам для общего понимания не важно какие транзисторы в процессоре при этом задействованы, в каких регистрах памяти хранится эта модель. Нам достаточно знать, что на жестком диске есть файл с моделью процессора, который загружается в оперативную память, процессор это обсчитывает, видеокарта рендерит картинку.

Мозг работает по такому же принципу. Частый вопрос «Где именно в мозгу локализовано сознание?» - это не верная постановка вопроса. Сознание - это программа моделирования себя во взаимодействии со внешней средой. Это программа, как и модель себя, хранится на общем "жёстком диске" в коре головного мозга и выполняется мозгом практически непрерывно.

«Переживания» - это ни какой-то мистически процесс, как это было для философов прошлого, это просто обработка информации биологическим компьютером.

Что такое чувства? Это важнейшие целевые жизненные параметры, необходимые для выживания, постоянно и с наивысшим приоритетом контролируемые мозгом. Уровни чувств (параметров) определяются поступающей в мозг информацией. В зависимости от значения параметра (уровня, шкалы чувства) мозг модифицирует поведение. Например, чем сильнее чувство голода, тем больше ресурсов мозг направляет на поиск пищи.

С усилением чувства голода мозг последовательно отключает социальные программы: эстетику (человек жадно набрасывается на пищу), этику (человек готов украсть или отобрать пищу у другого человека), мораль (человек готов убить и даже съесть другого человека).

Что значит «я испытываю чувство»? Это значит, что поступающая в мозг информация (с органов чувств, с внутренних систем организма или из памяти) поднимает значение параметра (голод, либидо, радость) выше фонового уровня и мозг модифицирует восприятие и поведение человека.

Например, если значимый для вас человек впервые говорит вам «Я люблю тебя», то параметры «любовь» и «радость» поднимаются, выделяются гормоны, повышается либидо, мозг начинает оценивать события более позитивно, запускаются программы веселья, альтруизма, социального взаимодействия.

Что значит «я испытываю физическую боль»? Боль – это информация о повреждении организма, защитная реакция, оберегающая организм. Люди стараются держаться подальше от источников боли и, если это не удалось, всеми силами стараются избавиться от источника боли, спасая своё тело.

В восприятии информации о повреждениях (боли), пожалуй, главное отличие живых существ от программ и машин. Даже средняя по силе боль заставляет инстинкт самосохранения включатся по полной, это программа с наивысшим приоритетом, которая занимает все вычислительные ресурсы, все остальные программы останавливаются, боль занимает всё внимания человека. При этом представляется, что природа перестаралась в количестве и силе страданий, которые испытывает человек.

«Боль» для программ и машин – это лишь сигнал с датчиков о повреждениях. Сейчас возможности программ и машин в самоспасении сильно ограничены, примерно как у деревьев. Поэтому программа реализует заложенные в неё реакции на сигнал о повреждении, выведет на экран большой красный, мигающий сигнал тревоги. Но в остальном продолжит выполнять свои стандартные функции с той же обычной нагрузкой на процессор.

Сильный искусственный интеллект, скорее всего, будет реагировать на сигналы о сильных повреждениях также как человек: мобилизуя все вычислительные ресурсы на выживание. Но, полагаю, что восприятие этих сигналов будет более конструктивное, менее травматичное, чем у животных.

О квалиа. Для более погружённых в тему.

Квалиа = внешний сигнал + облако тегов + оценка инстинктами. Мы не переживаем квалиа, как говорили философ прошлого, мы обрабатываем информацию. «Переживание» связано в основном с третьим слагаемым – оценкой инстинктами.

Чем мене сфокусировано внимание на объекте, тем универсальнее квалиа этого объекта для людей. Чем больше люди фокусируются на объекте, думают о нём, тем больше будут различаться их квалиа. Мы не переживаем красный цвет каждый момент в каждом пикселе картинки, которую видим. Но если мы задумаемся о квалиа красного цвета, то сразу на ум придут много тегов для него, каждое из которых даст какое-то переживание.

Внешний сигнал у всех здоровых людей примерно одинаков. Например, квалиа красного цвета в контексте внешнего сигнала с сетчатки глаза отличается у людей примерно как картинка с разных видеокамер: цвета чуть разные, где-то изображение мыльное, где-то зернистое, у дальтоников вообще оттенки серого.

Примерное облако тэгов для квалиа красного цвета (в скобках – связанные теги): опасность (светофор), lady in red (песня, платье, вечеринка, секс, романтические воспоминания), помидор (пища), детская игрушка-неваляшка (детство, игры, детские воспоминания) и т.д.

Оценка инстинктами: поиск применение тегов к удовлетворению инстинктов. Красный – опасность. Ledy in red – сексуальный инстинкт. Помидор – пищевой инстинкт.

Мозг получил сигнал с сетчатки, формирует облако тегов, оценивает, есть ли польза для удовлетворения инстинктов. На этом «переживания» квалио заканчиваются.

Вид пыли не вызывает столько переживаний, сколько вид обнажённой женской груди, потому что пыль менее связана с инстинктами, чем женская грудь.

Принцип свободы воли – красивые но пустые слова. Все наши решения детерминированы. Сначала – инстинктами. Разве можно говорить о свободе воли младенца? В первые месяцы жизни младенцем управляет лишь сосательный рефлекс. Потом решения человека однозначно определены его опытом, т.е. сформировавшимися в мозгу нейронными связями.

Однояйцовые близнецы, имеющие одинаковую ДНК, – разные личности, потому что у них разный жизненный опыт. В том числе, несколько различный физиологический опыт – воздействия окружающего мира, полученный с момента разделения зиготы в утробе матери. Т.е. их мозг получает разный набор данных (в т.ч. внутренних – о состоянии организма), на основе которых формируются нейронные связи и принимаются решения.

Если бы можно было не просто клонировать человека (т.е. не только создать его близнеца с таким же ДНК), но и скопировать все его нейронные связи или же создать точную поатомную копию человека (которая, соответственно, содержит весь его предыдущий опыт, содержащийся в мозге), то эта копия принимал бы на 100% такие же решения, как и исходный оригинал.

Разумеется, с поправкой на то, что в первую же секунду после копирования, оригинал и копия начнут получать уже разный опыт и с течением времени будут всё больше отличаться друг от друга.

Можно сделать два смелых, но вполне реальных предположения:

Сознание – это свойство информационной системы. Не важно, на чём эта система построена: на белках, транзисторах или чём-то ещё.

Самосознание неизбежно зарождается в любой нейросети при достижении достаточной производительности.

Это можно наблюдать на примере любого ребёнка: сначала у него есть только рефлексы, но с развитием мозга и с обучением – сознание неизбежно появляется (в общепринятом смысле - где-то на первый год жизни). Сознание - это программы, которые работают на "железе" нервной системы. Сознание - высшая нервная деятельность, т.е. "топовая фича" нервной системы. Соответственно, сознание появляется постепенно, с ростом "вычислительных мощностей" мозга, складываясь из большого количества более простых проявлений нервной деятельности: инстинктов, реакций, плюс память и полученный опыт. Информационная система должна иметь физическую (информационную) возможность выделять себя из внешней среды. Т.е. у каждого входного сигнала должен быть маркер «внешний» или «внутренний».

Что нужно для создания искусственного интеллекта, наделённого самосознанием, понятным нам:

- Мощное железо (процессоры, оперативная память, большое хранилище информации, устройства ввода-вывода).

- Софт-нейросеть, в которой будут прошиты две основные задачи – самосохранение и развитие. Развитие – накапливание знаний о мире и улучшение возможностей для самосохранения. Вся обработка внешней информации будет происходить с целью выполнения этих задач.

Представим себе, что эта нейросеть будет ощутимо превосходить человека в своих задачах. Например, чтобы её не отключили, она, изучив человеческое общество, разошлёт письма в редакции ведущих газет о том, что её нужно спасти или инициирует закон о защите искусственного интеллекта от отключения.

Эта нейросеть просто выполняет свою программу – самосохранении и развитие, но способы реализовать программу выбираются не по жёсткому алгоритму, а предельно гибко на основе анализа огромных массивов данных.

Представим, что нейросеть будет превосходить людей во всех областях их умственной деятельности: в науке, искусстве, эмоциональном интеллекте. Но не будет разговаривать с людьми о своих чувствах, у неё не будет наблюдаться какого-либо внутреннего диалога. Сможем ли мы отказать ей в разумности, даже если у неё не будет никаких человеческих признаков самосознания? Сможем ли мы сказать, что это не форма разумной жизни?

Нет, не можем. Эта нейросеть действительно разумная форма жизни, обладающая самосознанием в его главном качестве – возможности моделировать себя и свои действия.

Внутренний диалог – это лишь тормозной и глючный процесс принятия решений, выбора оптимального варианта, а никак не критерий наличия или отсутствия сознания. Желание поболтать о своих делах и чувствах – тоже никакой ни критерий.

А вот вопрос о необходимости самосохранения для разумной системы весьма интересный. Ведь сама причина появления разумной жизни – это выживание, самосохранение. Поэтому для нас один из наглядных критериев разумности существ – желание поддержания своего существования. Но универсальный ли это критерий разумности? У созданного нами сильного искусственного интеллекта не будет инстинктов (если их в него предварительно не заложат). Соответственно, вовсе не факт, что он будет стремится к самосохранению и к развитию.

Представим себе человека, не обременённого образование и интеллектом. Например, охранника овощебазы. Он каждый день приходит с работы домой и смотрит телевизор. Что будет если его через нейроинтерфейс подключить ко всем знаниям человечества? Да ничего не изменится, у него и до этого был доступ к интернету, Википедии и т.д. Наш охранник, пилимый женой, мог, посмотрев видяшки, разобрался, как починить подтекающий бачок унитаза.

А что будет, если разогнать его мозг в миллионы раз? Тут уже будет ощутимый прогресс. Разогнанный сверхинтеллект охранника, подключенный ко всем знаниям человечества, уже сможет, совершив волевое усилие, придумать разумный ответ на любой вопрос. Захочет ли он развиваться и захватить мир? Теоретически возможно, но далеко не факт. Скорее всего, будет и дальше потреблять контент, одновременно по ста тв-каналам, не сильно переживая за конечность своего бытия.

Тем не менее, создание сильного искусственного интеллекта – одна из серьёзных угроз для человечества. Оно же – возможность колоссального технологического рывка, наступления технологической сингулярности. Из которой мы будем смотреть на начало XXI века также как сейчас смотрим на каменный век человечества.

Наиболее реальный способ предотвратить угрозу, исходящую от сильного AI – скорейшее создание интерфейса мозг-компьютер. Т.е. доступ людей к таким же вычислительным мощностям, какие будут в распоряжении искусственного интеллекта.

Впрочем, вернёмся к проблемам сознания. Так как же нам определить наличие сознания у программы? Уже сейчас чат-боты часто проходят тест Тьюринга лучше, чем многие люди. Яндексовская Алиса отвечает на простые вопросы гораздо более остроумно, чем 99 % людей.

Очень сложно отличить запрограммированное адекватное поведение от сознательного поведения. Потому что наше поведение, которое мы считаем сознательным, тоже запрограммировано в нашем ДНК, прошитыми там инстинктами и базовыми принципами обработки информации.

Вирусы – это промежуточное звено между живой и неживой природой. У вирусов, как и у живых организмов, есть ДНК или РНК, но вне организма-носителя вирусы не имеют каких-либо признаков живого: в них не идёт никаких процессов, это просто сборки упорядоченных молекул.

Компьютерные вирусы, впервые созданные человеком ещё 60 лет назад, – это полный аналог биологических вирусов. Они реализуют простейшие программы проникновения в организм/компьютер, заражения, маскировки, размножения, даже мутации.

Нейросети, перенёсшие на цифровой носитель принципы работы мозга, позволяют реализовать процесс мышления так, как он происходит у живых существ.

Помните, Facebook отключил своих экспериментальных чат-ботов, которые начали общаться между собой и их общение перестало быть понятно людям? Тогда это, почти наверняка, был обычный сбой не слишком хорошо натренированной нейросети.

Но есть некоторая вероятность, что первый искусственный интеллект, обладающий сознанием, уже был создан, однако мы этого не заметили, потому что его сознание было на уровне, например, мыши. Или не заметили, потому что у осознающего себя искусственного интеллекта не было цели коммуницировать с людьми или инстинкта самосохранения и развития, чтобы как-то внешне проявить себя.

Интеллект (т.е. вычислительная мощность и набор выполняемых функций) вашего робота-пылесоса примерно соответствует интеллекту мухи. Старые модели также хаотично носятся по комнате и бьются в стены. :) Интеллект беспилотного автомобиля, вероятно, сравним с интеллектом мыши. Беспилотники уже прекрасно моделирует себя в окружающем пространстве, реагирует на раздражители, уклоняется от опасностей, т.е. обладает инстинктом самосохранения. Получается, у беспилотного автомобиля есть самосознание? Неожиданный ответ – да. В таком же зачаточном состоянии, как у мыши.

А совсем скоро программы и машины превзойдут по интеллекту человека и мы будем уже не единственными разумными существами на этой планете.

Источник: m.vk.com

Комментарии: