Создавая и используя искусственный интеллект, что мы можем узнать о себе?

Согласно Ветхому Завету, человек — существо ленивое, но любопытное. Заплатив за свое любопытство изгнанием из рая, человек, если у него была такая возможность, стал изобретать способы переложить труд добычи хлеба «в поте лица своего» на плечи других с целью оставить себе время продолжать удовлетворять свое любопытство, занимаясь спортом, искусством и философией. В ходе истории этими «другими» были животные, рабы, крестьяне, ремесленники, рабочие, машины, электронные калькуляторы и, наконец, компьютеры и искусственный интеллект.

Но вот недавно я услышал, как один студент использовал ChatGPT для написания диплома и получил хорошую оценку, так как диплом удовлетворял всем необходимым критериям. Но этим дело не кончилось — этот студент был рекомендован в аспирантуру по политологии. Мысленно продолжив дальнейший путь данного студента, можно себе представить, что он успешно защищает диссертацию, затем находит работу в управленческих структурах, поднимается по карьерной лестнице и начинает влиять на важные вопросы внутренней и внешней политики государства. И при всем этом он решает стоящие перед ним творческие задачи не путем самостоятельного мышления, а при помощи ИИ. Возникают вопросы: неужели и творческий элемент сознания можно переложить на плечи «других»? А если так, то чем человек будет занимать себя, если творчество отойдет к машинам? Кто будет автором произведений науки, искусства и политических решений, если вопросы будет задавать человек, а отвечать на них будет ИИ? И вообще, что нового мы узнаем о самих себе как творцы и пользователи ИИ?

Чтобы попытаться ответить на эти вопросы, разберемся сначала с определениями.

Что такое автор

Согласно имеющимся определениям, автор это:

«создатель художественного или публицистического произведения, научного исследования, проекта, изобретения и т.д.» (Большая советская энциклопедия);

«(от лат. auctor творец или от греч. autos сам). Творец какого-нибудь художественного, литературного или научного произведения (Словарь иностранных слов, вошедших в состав русского языка. Чудинов А.Н., 1910);

«творец чего-нибудь, составитель, создатель какого-нибудь научного, литературного, художественного произведения, проекта, изобретения» (Толковый словарь русского языка под редакцией Д.Н. Ушакова);

«парадигмальная фигура отнесения результатов той или иной (прежде всего творческой) деятельности с определенным (индивидуальным или коллективным) субъектом как агентом этой деятельности (греч. autos сам)» (История философии. Энциклопедия);

«по законодательству РФ физическое лицо, творческим трудом которого создано изобретение, полезная модель или промышленный образец» (Финансовый словарь) [1].

Как видно из определений, автор — это субъект, агент, лицо, создатель и творец. Все эти понятия предполагают наличие в авторе особого элемента — управляющего агента, способного осознавать свои внутренние состояния в форме субъективного опыта (ощущений, эмоций, и переживаний), свободно ставить себе цели и осознанно и самостоятельно их осуществлять. Будем называть это свойство субъектностью. Понятно, что нечто возникает свободно, только возникнув из ничего, если же оно возникает из уже имеющихся предпосылок, в которых оно потенциально уже содержалось, оно не свободно. Это, конечно, не означает, что творец ставит себе цель «в вакууме»: творец использует свои знания, навыки и память, комбинирует то, что ему известно, но вносит в эту комбинацию нечто «от себя», что и является тем самым собственным вкладом «из ничего», который и составляет сущность творчества. При этом важно, что этот творческий вклад «от себя» не просто случайное событие, как, например, распад атома или комбинация из битых стекол в калейдоскопе, а возникает намеренно, под контролем цели, поставленной себе осознающим себя агентом, или «Я». Хотя сам «агент» с течением времени и ситуации может изменяться («Я» ребенка и «Я» взрослого, «Я» в бодрствующем состоянии или «Я» в сновидении, «Я» здорового или «Я» больного), но в каждой конкретной ситуации целеполагания какое-то «Я» всегда присутствует. Конечно, к любой поставленной свободным агентом цели можно придумать причины, например, я решил написать эту статью, потому что интересуюсь этой темой, имею свободное время, прочитал статьи коллег по этим проблемам и так далее, но эти причины осознаются моим Я, которое может их отменить или утвердить. В осознанном принятии или отвержении причин намерения что-то сделать и состоит элемент свободы.

Даже если рассматривать автора как продукт социальных условий в контексте марксистской теории Фредерика Барта или подхода Мишеля Фуко, все равно невозможно полностью исключить из понятия авторства элемент свободного от внешних причин целеполагания, который неискоренимо содержится в понятии осознанности. Осознать свое действие означает выйти за пределы причин, определяющих это действие, встать над этими причинами, а значит, сам осознающий субъект свободен от внешних причин.

Что такое искусственный интеллект

ИИ определяет себя как «область компьютерных наук, занимающаяся созданием систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта. Эти задачи включают в себя распознавание речи, визуальное восприятие, принятие решений, решение проблем, обучение и адаптацию к новым данным. ИИ стремится имитировать когнитивные функции человека, такие как мышление, обучение, решение проблем и восприятие» [2]. Компоненты ИИ включают в себя машинное обучение, глубокое обучение (использование нейронных сетей для моделирования сложных паттернов и данных), обработку естественного языка (распознавание речи, машинный перевод и генерация текста), компьютерное зрение (распознавание объектов и классификация изображений) и робототехнику (автономное движение и манипуляция объектами).

Очевидно, что все эти задачи, по определению, являются результатом программирования и не включают в себя элемента субъектности. Конечно, элемент субъектности присутствует, однако не внутри ИИ как такового, а в сознании программиста. Создавая программу, человек целенаправленно моделирует свои когнитивные навыки, например, дедуктивный или индуктивный модусы мышления, и таким образом отчуждает их от себя, подобно тому, как пущенная из лука стрела является отчужденной рукой человека. Но так же, как при стрельбе из лука, при создании программы присутствует неотчуждаемый элемент — субъектность. Философ Джон Сёрл еще в 1980 году ввел различие между слабым ИИ, который реализуется на компьютерах и является вспомогательным орудием мышления человека, и сильным ИИ, который обладает способностью к интенциональности — умением намеренно ставить цели и осознавать свои действия. Вслед за Сёрлом свойство интенциональности, включающее в себя эмоциональность, целеполагание и другие проявления субъектности, выделяли многие теоретики как черту, отличающую сознание человека от реально существующей формы ИИ (см. обзор в [3; 4]). Как отмечают некоторые современные философы, сильный ИИ до сих пор создать не удалось [5]. Это подтверждает и сам ИИ: «Сознание человека обладает множеством уникальных свойств, которые, по состоянию на сегодня, не могут быть полностью воспроизведены или переданы искусственному интеллекту. Эти свойства включают субъективный опыт, свободу воли, креативность и интуицию, этические и моральные суждения, самосознание, самопознание и эмпатическое понимание. Понимание этих свойств помогает лучше осознать границы и возможности ИИ, а также направляет исследования в области ИИ и сознания» [2].

Тем не менее возникает вопрос: обусловлена ли невозможность передать свойство субъектности искусственному интеллекту ограниченностью нашего знания «по состоянию на сегодня» или имеется принципиальное ограничение, препятствующее такой передаче? Сам Сёрл, отвергая картезианский дуализм, считал таким ограничением тот факт, что сознание человека это уникальный продукт живого мозга, в то время как ИИ есть функционирование программ, а программа не является живым существом и не зависит от субстрата, на котором она реализуется. Поэтому, согласно Сёрлу, «никакая программа сама по себе не в состоянии создать свойство интенциональности» и сильный ИИ в принципе не может быть создан на субстрате, отличном от живого мозга человека [6].

Но даже если отвлечься от аргумента Сёрла и допустить, что сильный ИИ может функционировать на небиологическом машинном субстрате или даже искусственно созданном биологическом субстрате, то по-прежнему остается вопрос: можно ли передать ИИ свойство субъектности в принципе? Локализована ли субъектность в человеке или является нелокальным свойством вселенной? От ответа на этот вопрос зависит ответ на один из главных вопросов о человеке, заданных Иммануилом Кантом в третьей антиномии «Критики чистого разума» — вопрос о возможности свободного действия как эмпирического явления во внешнем мире, а не только как свойства разума человека. Поэтому, создавая и используя ИИ, человек исследует возможности и границы своего сознания.

Что человек как творец ИИ может узнать о себе

Возможность приобретения искусственным интеллектом свойства субъектности допускалась в фантастической литературе [7; 8] и в психологии [9]. По существу, вопрос о наличии принципиальных ограничений для передачи ИИ определенных свойств сознания упирается в вопрос о структуре сознания.

На наш взгляд, сознание неоднородно и состоит и трех компонентов: внешнего объективированного сознания, существующего в форме символических структур (объективных восприятий, языков, артефактов, законов логики, природы и общества), внутреннего объективированного сознания, существующего в форме внутренней речи (логического мышления, логической памяти, внутренне представленных моральных принципов), и живого сознания, которое реализуется не в форме речи, а в форме квалиа, эмоций, чувственных образов, веры, сновидений и творческого воображения. Именно живое сознание содержит наше субъектное Я. Живое сознание стоит над законами логики и морали и подчиняется законам магии, таким как партиципация, отождествление по сходству и контакту, непосредственное воздействие желания на реальность и некоторым другим [10]. Эти законы легко увидеть, просто внимательно понаблюдав за своим сознанием в спокойном состоянии, поразмыслив над своими сновидениями или стихотворениями гениальных поэтов, таких как Пушкин, Тютчев или Мандельштам.

Принципиальным фактом является то, что все то новое, что создает индивид, первоначально возникает в его живом сознании не по законам логики и причинности, а спонтанно, без каких-либо внешне или внутренне фиксируемых оснований, и затем облекается в форму внутреннего объективированного сознания, приобретая знакомые нам черты логических высказываний и умозаключений; последние же могут быть превращены в формы внешнего объективированного сознания, как устная или письменная речь и другие символические структуры, которые, таким образом, превращают результаты творческой работы живого сознания в отчужденный продукт, доступный наблюдению и восприятию социумом. Одним из таких продуктов и являются алгоритмы и программы, которые передаются ИИ.

Итак, создавая программы для ИИ, человек передает ИИ некоторые функции своего внутреннего объективированного сознания, например формализованные высказывания, такие как {0;1}, операции над высказываниями, такие как конъюнкция, дизъюнкция и импликация, способы логических умозаключений и другие. Но живое сознание, которое включает в себя и бессознательное, стоит вне законов логики: в воображении или сновидении вещи могут возникать из ничего, один предмет может мгновенно превратиться в другой, причина и следствие могут поменяться местами, разные объекты могут совмещаться в одном и можно безнаказанно совершать действия, которые в мире объективированного сознания будут считаться аморальными и даже преступными. Поэтому живое сознание в принципе не формализуемо и не может быть передано ИИ. Отсюда следует, что ИИ не может иметь субъектности в форме живого сознания, как бы внешне, то есть с точки зрения эмпирического впечатления от результатов работы ИИ, он ни походил на мышление индивида или даже превосходил это мышление. Попутно заметим, что внешне ИИ может превосходить интеллект индивида, но не общества как целого, так как база ИИ загружается из совокупных интеллектуальных достижений социума.

Еще одним способом обозначить невозможность формализации и отчуждения живого сознания будет указание на логический круг, который содержится в предположении такой возможности. Поскольку отчуждаемая часть внутреннего объективированного сознания возникает из глубины неотчуждаемого живого сознания, предположить, что и само живое сознание может быть формализовано и передано ИИ, означает по умолчанию принять, что живое сознание создает отчуждаемую копию самого себя, а значит, само может быть создано и, следовательно, происходит от внешних причин. Но включенность в цепь причин и следствий исключает свободу личного Я, которое, по определению, стоит над причинно-следственным континуумом и по факту присутствует в живом сознании, создавая основу для таких институтов, как вера, мораль, закон и личная ответственность.

Наконец, и это самое главное, живое сознание индивида — это отражение системой своих собственных потребностей и состояний в форме субъективных переживаний, и поэтому оно, по определению, приватно и недоступно для других. Приватность живого сознания есть основа индивидуальности, так как если бы живое сознание было доступно для других, то индивид перестал бы быть индивидом и растворился в социуме. Но недоступность для других означает также неотчуждаемость.

Таким образом, даже если отвлечься от факта привязки сознания к какому-либо конкретному субстрату, живое сознание по своему понятию локально и не может быть формализовано и отчуждено от индивида. Тем не менее живое сознание не «черный ящик», полностью недоступный для наблюдения. Оно может наблюдаться и описываться словами как самим индивидом путем интроспекции, так и другими людьми, так как внешне выражается в таких коррелятах, как мимика, интонации, жесты и речь. Но живое сознание, воплощенное в речь или мимику, не перестает быть приватным явлением, так как не «перетекает» непосредственно в сознание других; превратившись в мимику, слова или жесты, живое сознание умирает в последних и должно быть «раскодировано» другими обладателями живого сознания путем эмпатического сопереживания. Именно об этом знаменитые слова Федора Тютчева «Мысль изреченная есть ложь». Но внешние корреляты живого сознания индивида могут быть симулированы на внешних носителях без реального приобщения к оригинальным субъективным переживаниям индивида: когда мы видим, как персонажи мультфильма улыбаются или плачут, мы невольно приписываем им реальные эмоции, хотя понимаем, что они их не испытывают. Этим и объясняется особенность имитации живого сознания при помощи ИИ. ИИ может «распознавать» эмоции и имитировать их в форме слов или образов, при этом не испытывая этих состояний. Подобным же образом ИИ может имитировать и другие проявления живого сознания, такие как воображение и творчество, хотя в реальности он будет «творить» лишь на основании комбинирования продуктов творчества людей. Конечно, можно заложить в ИИ основанный на радиоактивности генератор случайных чисел, который будет имитацией элемента спонтанности, но это будет серия случайных событий, инициированная человеком, а не телеологический творческий процесс под руководством поставленной агентом цели.

Источник: vk.com

Комментарии: