О творчестве и знании в эпоху искусственного интеллекта

Вадим Маркович Розин – фигура, не требующая представления. Российский философ и методолог, доктор философских наук, профессор. Его научный почерк всегда отличался редкой междисциплинарностью: на протяжении десятилетий он с одинаковой легкостью работал на границах философии науки, психологии, семиотики и культурологии, неизменно возвращая гуманитарную мысль к анализу механизмов самого мышления. Однако сегодня Вадим Маркович выступает в несколько неожиданной для классического методолога роли – одного из диагностов эпохи искусственного интеллекта. В своих недавних статьях и публичных выступлениях он описывает диалог с нейросетью о природе силлогизмов, рефлексирует над механизмами «галлюцинаций» ИИ и ставит под сомнение привычные эпистемологические границы. Предлагаем вам проследить за тем, как классическая рациональность встречается со своим цифровым двойником, и выяснить, способна ли старая школа мысли объяснить логику новых машин.

Д.Т.: Вадим Маркович, в одной из своих недавних статей Вы приводили Ваш диалог с нейросетью deepseek, которая объяснила, как работает построение силлогизмов в больших языковых моделей. Чем этот способ принципиально отличается от построения силлогизмов у человека?

В.Р.: У человека силлогизм - это, с одной стороны, правило логики, с другой - рассуждение, построенное в соответствии с этим правилом. Кроме того, речь идёт о коммуникации в рамках научной культуры, где действуют человеческие отношения «понимания - непонимания», «нормирования», «обучения» и др. Нейросеть - это семиотическая машина, которую настраивают на эффект, сходный с рассуждениями по логическим правилам. Настройка включает изготовление датасета, состоящего из правильных и неправильных рассуждений, отбора с помощью программы правильных рассуждений, их моделирования (векторы и их организация тоже с помощью специальных программ, а также установок, предваряющих построение промпта), настройки весов и путей прохождения сигналов-информации. В результате в нейросети появляется организация (весов и маршрута), позволяющая выстраивать промпты как правильные рассуждения. Как будто они построены по правилам силлогизмов.

Д.Т.: Нередко утверждается, что ИИ, обучаясь на созданных человеком данных, принципиально не способны создавать ничего нового, а результат их деятельности – лишь сложно устроенное компилирование обработанного материала. При этом Вы пишете, что оригинально поставленный человеком вопрос побуждает оригинальное решение от ИИ, содержащее в себе новизну. Насколько совместимы, на Ваш взгляд, эти позиции?

В.Р.: Нужно различать, как ИИ обучают (настраивают) и какие возможности нейросети имеют. Да, настройка идёт на основе датасетов, где собраны тексты (схемы, мыслительные построения, произведения и пр.), полученные в уже сложившихся интеллектуальных практиках. Но собирали их специалисты с использованием Интернета. Уже это может вносить какие-то новые соединения (смыслов и содержаний). Далее, организация нейросети многослойная, моделирование и построение промптов обеспечивается параллельной работой, разворачивающейся в этих слоях, задействование Интернета может привносить дополнительную информацию и схемы. В результате в нейросети существуют возможности для построений, которые пользователь воспринимает как новации, как творчество, хотя это просто потенции структуры и работы ИИ. Теперь по поводу умных вопросов пользователя. Промпт не просто вопрос, включающий нейросеть и запускающий работу по созданию ответа. Промпт позволяет задействовать те маршруты и организованности нейросети, которые определяют построение ответа. Иначе говоря, он определяет характер интеллекта («разума») ИИ, необходимого для пользователя.

Д.Т.: Вы полагаете, что ответ нейросети, данный на вопрос пользователя, имеет смысл лишь в связке с этим вопросом. Но не справедливо ли то же самое в отношении ответов, даваемых на вопросы людьми? Ведь в каждом вопросе содержится некоторая первичная информация – посылка, – без которой ответ частично лишён смысла. Вопрос в следующем: если ИИ, давая оригинальный ответ на оригинальный вопрос, сам по себе не является полноправным субъектом творчества, то может ли человек, дающий ответ на вопрос, считаться таковым?

В.Р.: В отличие от ИИ, человек, уточняя свое понимание (или, не понимая ответ), задаёт следующие вопросы, может менять предмет вопрошания, изменять свое видение и понимание. Все это обусловлено его личностью и общением (коммуникацией), которые функционируют (изменяются, живут) в реальности естественного интеллекта (ЕИ). У ИИ пока нет субъективности, и он заканчивает работу, ответив на промпт. Кстати, вы правы, и человек может функционировать как робот и машина. Творчество и свобода - достояние не так уж многих. Вспомним Ж. Делёза, утверждающего, что нужно различать два вида вещей: не затрагивающие мышление и заставляющие мыслить.

«Первые - объекты узнавания. Мышление и все его способности могут найти здесь полное применение; мышление может работать, но эта озабоченность и применение не имеют ничего общего с размышлением. Мышление наполнено здесь только своим собственным образом... Условия подлинной критики и подлинного мышления одинаковы: разрушение образа мышления - как собственного допущения, генезиса акта размышления в самом мышлении. В мире есть нечто, заставляющее мыслить. Это нечто - объект встречи, а не узнавания. Встреченное может быть Сократом, храмом, демоном... Вспомним глубокие тексты Хайдеггера, показывающего, что пока мышление ограничивается допущением своей доброй природы и доброй воли в форме обыденного сознания, ratio, cogitatio natura universalis, оно вообще не мыслит, будучи пленником общественного мнения, застывшего в абстрактной возможности...: “Человек может мыслить тогда, поскольку имеет такую возможность, но возможное еще не гарантирует того, что мы будем на это способны”; мышление мыслит лишь насильно, вынуждено встречая то, что "заставляет задуматься", того, что следует обдумать - а обдумать нужно и немыслимое или не-мысль, то есть тот постоянный факт, что “мы еще не мыслим”»[1].

Д.Т.: Как Вы считаете, не делает ли человек те же самые сложно устроенные компиляции уже существующих знаний и смыслов, занимаясь наукой и творчеством? Наука, как известно, выступает самореферентной системой, поэтому постоянно ссылается сама на себя и использует собственные критерии для проверки своего знания. А, например, о создании художественного текста Р. Барт писал: «...текст соткан из цитат, отсылающих к тысячам культурных источников». Как же возможно новое, созданное человеком?

В.Р.: Вы правы, человек тоже осуществляет те же самые сложно устроенные компиляции уже существующих знаний и смыслов, занимаясь наукой и творчеством. Но есть различие - в целых. Целое для человека - именно наука, творчество, более широко – естественный интеллект. Целое для ИИ - практика, в которую входит программирование, моделирование, создание нейросетей, их обучение и прочее, в том числе и философское осознание. Тем не менее, это всё же сложная деятельность человека, правда, обусловленная естественным интеллектом, историей и культурой. Под влиянием этих разных целых и процессы компиляции уже существующих знаний и смыслов осуществляются различно.

Д.Т.: Одна из серьёзных проблем в функционировании больших языковых моделей – так называемые «галлюцинации». Не обладая информацией по какому-либо вопросу, многие нейросети начинают предсказывать на основе вероятности подходящие варианты ответов, так как не дать ответ пользователю не могут технически. Производители нейросетей борются с этим эффектом с целью избежать выдачи заведомо ложной информации. На Ваш взгляд, можно ли сравнить галлюцинации ИИ с работой воображения человека? Возможно, этот нежеланный эффект работы нейросетей – и есть своеобразный механизм порождения нового?

В.Р.: Галлюцинации ИИ имеют другую природу, чем воображение человека. В основе воображения - семиотические, психические и биологические процессы. В основе галлюцинаций, с одной стороны, недоработка в плане обучения и моделирования, с другой - особенности и возможности работы самих нейросетей. Например, мне снится, что я летаю. С одной стороны, здесь срабатывает семиотическая схема полета, с другой – психологическая установка (я хотел бы летать как птица), с третьей стороны, как я показываю в своей концепции сновидений, и то и другое связано с особым биологическим состоянием человеческого организма (период сна, когда реализуются нереализованные желания, в данном случае невозможность летать)[2]. Галлюцинации в ИИ нельзя считать творчеством, поскольку в понятие творчества входят два момента (новации и оценка их как новаций); в данном же случае галлюцинации оцениваются не как новации, а как вредные ошибки и недоработки настроек и обучения.

Д.Т.: Как Вы считаете, могут ли истинные суждения нейросетей о мире считаться знанием? Как известно, Э. Геттиер в своей известной статье 1963 г. поставил вопрос о том, справедливо ли принятое в эпистемологии определение знания как истинного обоснованного мнения (true justified belief). Меняет ли сегодня вновь наши представления о природе знания способность нейросетей производить истинные суждения?

В.Р.: Хороший вопрос. Например, я задавал нейросети вопросы о том, как она работает. Ответы выглядели как правильное знание. Но было ли это знанием? Мы называем знанием то, что получено в процессе познания, предполагая, что есть объект познания, проблемы по поводу него, наша деятельность, направленная на разрешение этих проблем, критерии правильности нашей деятельности, объяснение в эпистемологии и логике продуктов этой деятельности (знаний). ИИ создаёт знание другими способами, и оценивает их, как знание, пока специалист (человек). В этом отношении нейросеть не познает и не получает знания. Однако, поскольку всё же мы оцениваем её ответы как знания, стоит, вероятно, расширить понятие знания, введя представление об «искусственном знании» (ИЗ), полученным ИИ. Эта достойная, интересная задача для эпистемологии.

Д.Т.: Вы пишите, что ИИ способен к диалогу и творчеству, если имеет доступ к Интернету и получает умные промпты от человека. Что Вы думаете о сенсации этого года – социальной сети для ИИ-агентов Moltbook, в рамках которой без вмешательства людей эти агенты создают собственные религии, обсуждают философские проблемы (в частности, субъектности ИИ), выстраивают социальные иерархии? Отличаются ли в подобных условиях способности таких самостоятельно действующих ИИ-агентов к творчеству в сравнении с более привычными нейросетевыми чат-ботами?

В.Р.: Думаю, отличаются, если только чат-боты не используют ИИ. Привычные чат-боты работают на основе программ, а это ограничение очень существенное. ИИ-агенты работают на основе нейронных сетей, что сразу делает их на несколько порядков более творческими.

Интервью вёл Даниил Туркенич, специалист отдела научной коммуникации и популяризации науки, аспирант и м.н.с. сектора социальной эпистемологии Института философии РАН.

[1] Делез Ж. Различение и повторение. СПб.: ТОО ТК «Петрополис», 1998. С. 181, 135.

[2] Розин В.М. Учение о сновидениях и психических реальностей - одно из условий психологической интерпретации искусства // Розин В.М. Природа и генезис европейского искусства (философский и культурно-исторический анализ). М.: Голос, 2011. С. 350-397; Розин В.М. Понятие и феномен травмы: биологический, психологический и социокультурный аспекты // Электронный философский журнал Vox. Вып. 42. С. 50-69.

Телеграм: t.me/ainewsline

Источник: dzen.ru

Комментарии: