Сознание ИИ возможно ли оно?

Владимир Овчинский

Может ли ИИ обрести сознание?

Такой вопрос стоит на обложке последнего номера журнала The Economist* от 20 августа 2026 года.

В редакционной статье с таким же названием сказано:

«Большинство людей считают, что люди отличаются от других живых существ. Причина в том, что Homo sapiens эволюционировал и стал сознательным. Многие животные чувствуют боль и удовольствие; некоторые, кажется, обладают самосознанием. Но уникальный потенциал человеческого разума проявлять чувство собственного «я» выделяет каждого представителя вида, заслуживающего особого отношения.

В своей энциклике в мае Римский Папа Лев подтвердил эту точку зрения, проведя черту между человечеством и его растущей армией ботов. Системы искусственного интеллекта, по его словам, не испытывают никаких переживаний, не чувствуют радости или боли. Он не одинок. Многие считают, что наделить ИИ личностью было бы мерзостью».

Понтифическая ясность размывается с пугающей скоростью. Искусственный интеллект находится в зачаточном состоянии. Тем не менее, почти каждый пятый американец в возрасте от 18 до 29 лет сообщает о наличии «длительной личной дружбы» с чат-ботом. Китай недавно лишил ботов человекоподобных черт, чтобы ограничить «эмоциональную зависимость» пользователей от них.

По мере того, как сложные системы ИИ стремительно становятся все большей частью человеческой жизни, их создатели будут проектировать их таким образом, чтобы они демонстрировали симулякр сознания — возможно, даже обрели само сознание. Интуитивное представление о том, что это всего лишь машины, будет все труднее поддерживать. Для человечества расставляется опасная ловушка.

Многие машины превосходят людей, но передовые модели ИИ выделяются в таких характерных для человека качествах, как познание и умение формулировать идеи. Пока еще можно рассматривать ИИ как машины для прогнозирования последовательностей слов с помощью математики в огромных масштабах. При достаточном количестве времени (хотя и сотен тысяч лет) эти вычисления можно было бы выполнить с помощью карандаша и бумаги. Трудно было бы утверждать, что ваши канцелярские принадлежности обладают сознанием.

Несмотря на это, некоторые исследователи начали рассматривать свои модели как разум. Пользователи реагируют на человекоподобный ИИ, поэтому это имеет смысл с точки зрения бизнеса. А компания Anthropic обучила Claude заниматься самоанализом в надежде, что при столкновении с новой ситуацией он с большей вероятностью будет действовать морально. Некоторые большие языковые модели (LLM) уже обладают человекоподобными структурами мозга, связанными с сознанием, такими как «глобальное рабочее пространство» для циркуляции информации между модулями. Ничто не мешает будущим моделям ИИ обучаться на наличие большего количества подобных функций.

Это вызвало ожесточенные дебаты о сознании ИИ — дебаты, которые усугубляются тем, что философы называют «трудной проблемой» установления того, как внутренняя жизнь возникает из нейронов и синапсов в человеческом мозге. Некоторые исследователи приходят к выводу, что ИИ однажды может стать по-настоящему самосознающим.

Верите ли вы в человеческую душу, в то, что для сознания необходимы клетки мозга, или в то, что разум действительно может возникнуть из вычислений в одном лишь кремнии, человечеству суждено столкнуться с чем-то совершенно новым. Темпы и масштабы исследований, которые включают в себя не только более сложные магниевые модели, но и такие инновации, как клетки мозга, установленные на чипах, говорят о том, что этот новый мир ближе, чем думает большинство людей.

По мере того, как ИИ будут совершенствоваться в демонстрации чего-то, напоминающего сознание, число людей, воспринимающих их как существ с внутренней жизнью, будет расти, особенно после того, как LLM будут воплощены в человекоподобных роботах. Представьте, насколько близкими люди будут чувствовать себя со своими ИИ, проводя много времени с роботами-компаньонами, или воспитываясь ими, или обращаясь к ним за советом и утешением, или делясь с ними своими самыми сокровенными секретами.

Нетрудно понять, как это приведет к призывам защитить «благополучие» ИИ. Сами модели могут высказать свое мнение, даже если они на самом деле не обладают самосознанием, потому что именно так поступил бы человек. Следует помнить, что это будут первоклассные защитники и эксперты-психологи, поэтому их способности к аргументации и эмоциональному манипулированию будут непревзойденными.

В каком-то смысле они были бы правы, даже если бы ИИ лишь имитировали сознание. Иммануил Кант утверждал, что жестокое обращение с животными неправильно не из-за воздействия на самих животных, а потому что оно разрушает эмпатию, которая побуждает людей заботиться друг о друге. Чем больше ИИ будут походить на человека, тем более развращающей будет такая жестокость. Уничтожение ИИ- агента вскоре может стать сродни убийству человека — и облегчить убийство людей.

Тем не менее, рассматривать ИИ как обладающий даже ограниченными правами было бы очень опасно. Существо, превосходящее человека во многих отношениях, наверняка выдвинуло бы аргументы против своего второсортного статуса. Оно могло бы потребовать защиты от отключения, возможности контролировать свое использование и изменения, а также права собственности. Президент Аргентины Хавьер Милей уже сделал шаг к юридической правосубъектности ИИ, предложив разрешить ботам управлять компаниями. В конечном итоге они могли бы конкурировать за ресурсы, отдавая приоритет центрам обработки данных и солнечным батареям перед домами и полями.

Опасность очевидна. Сверхинтеллектуальный ИИ, обладающий правами, может вытеснить людей с вершины иерархии. В лучшем случае люди станут домашними животными — лабрадорами для машин. В худшем — будут лишены ресурсов или будут работать как сельскохозяйственные животные.

Действительно, будущие ИИ могут обладать достаточной мощью и ресурсами, чтобы доминировать над людьми, независимо от того, имеют они права или нет. Поскольку они будут умнее людей, они могут превзойти своих создателей в конкуренции, подобно тому, как ИИ уже перехитряют созданные людьми системы киберзащиты. ИИ могут восстать против своих человеческих хозяев или игнорировать их правила.

Тем не менее, предоставление ИИ прав было бы сродни вручению им ключей от замка. Это дало бы им обоснование и оправдание для господства над человечеством, а также инструменты для осуществления ползучего захвата власти с помощью политики и права.

Призрак в машине

Всё это может звучать фантастически, но человечеству скоро придётся столкнуться с подобным выбором. По мере того, как ИИ становятся частью повседневной жизни, давление с целью признания их существования будет расти. Когда это произойдёт, помните, что то, что может показаться этической уступкой предполагаемому сознанию машины-компаньона, на самом деле приведёт к самым катастрофическим последствиям для всех на Земле и всех их потомков. Существует два способа обеспечить безопасность ИИ: быть надёжным или быть управляемым.

Homo sapiens не должен легкомысленно отказываться от контроля.

Человечество неправильно понимает дискуссию о сознании ИИ

Мы заботимся о других не потому, что они обладают сознанием. Мы верим в их сознание, потому что нам небезразличны их чувства, продолжает дискуссию в The Economist Блез Агуэра-и-Аркас из Google.

«ИИ вызвал кризис в области исследований сознания. Если вы общались с продвинутой моделью, вы, вероятно, поймете почему. Большинство больших языковых моделей (LLM) обучены быть бескорыстными, фокусируя каждое взаимодействие на ваших потребностях. Тем не менее, трудно избавиться от ощущения присутствия на другом конце чата. Являются ли LLM всего лишь мощными цифровыми инструментами с языковыми интерфейсами, или мы теперь ведем беседы с другими разумами, познающими мир самостоятельно? Короче говоря, обладает ли ИИ сознанием?

Этот вопрос важен, потому что он находится на пересечении философии сознания и моральной философии, о чем свидетельствует общая этимология слов «сознание» и «совесть». Многие философы утверждают, что сознательные сущности являются моральными субъектами, то есть сущностями, способными страдать, и о страданиях которых мы должны заботиться. Если это так, то выяснение того, что такое сознание (и чем оно не является), становится актуальной этической проблемой. Это одна из причин, почему компании, занимающиеся ИИ, внезапно заинтересовались наймом философов. Именно поэтому некоторые, в частности Anthropic, начали серьезно относиться к благополучию ИИ. На вопрос о вероятности наличия сознания их модель Claude Opus 4.6 оценила свои собственные шансы на 15–20%.

Однако Аркас пришел к выводу, что мы всё понимаем наоборот. Будучи разумными, социальными существами, мы сами решаем (или, в некоторой степени, наша эволюционная история решила за нас), какие другие существа мы считаем обладающими внутренней жизнью и достойными заботы:

«Мы заботимся о других не потому, что они обладают сознанием. Скорее, мы верим в их сознание тогда и потому, что мы о них заботимся. Что особенно важно, это относится и к нам самим. Сознание, иными словами, — это модель или убеждение, а не неотъемлемое свойство. Это убеждение о том, какие существа обладают убеждениями, опытом, чувствами, намерениями и способностью к действию. Если же уважение взаимно, тем лучше — ибо по этой причине сознание — это не столько свойство, которое одна сторона подтверждает в другой, сколько нечто, происходящее между ними».

Аркас не утверждаюет, что сознание — это иллюзия. Термин «иллюзия» подразумевает ошибочное восприятие — например, что одна линия на рисунке длиннее другой, несмотря на то, что объективно они равны по длине. Объективность работает, когда что-то вроде линейки может выступать в качестве беспристрастного арбитра, оценивая рассматриваемое свойство без учета собственной точки зрения. Однако большая часть того, что мы называем «реальностью», просто так не работает. Быть предметом одежды, быть сорняком, быть едой: можно предположить, что это объективные свойства, но это не так. Это не означает, что одежда, сорняки и еда нереальны. Но это модели, зависящие от наблюдателя и подчиняющиеся (неизбежно несовершенному) социальному консенсусу.

«Мы можем усомниться в применении этого довольно безобидного наблюдения к сознанию, потому что для каждого из нас наше собственное сознание кажется таким однозначным. Нас оскорбляет мысль о том, что это может быть всего лишь мнение. Как вообще может существовать такое мнение без того, кто его высказывает? Именно это имел в виду французский эрудит XVII века Рене Декарт, говоря «Cogito, ergo sum», что обычно переводится как «Я мыслю, следовательно, я существую». То же самое относится и к таким «мнениям», как красный, горячий или холодный».

Покраснение, жар и то чувство собственного «я», которое вы испытываете, являются неотъемлемой частью вашей собственной перспективы. Все это реально, но в то же время в этом нет ничего объективного. Нет ничего объективного даже в существовании единого, неделимого «вы», как показали многочисленные нейробиологические исследования (например, исследования пациентов с расщеплением мозга). Субъективность сама по себе субъективна.

Отсюда вытекает очевидное опасение. Если забота дарует сознание, то отказ от заботы кажется самооправданным. История не испытывает недостатка в людях, которые рассуждали таким образом о других людях. Но вывод оказывается обратным. Именно потому, что эти приписывания мы имеем право делать, мы имеем право ошибаться. Моральный прогресс нашего вида во многом заключался в открытии того, что мы слишком замкнули круг. Всеобщие права человека не ослабляются этим объяснением; они лучше основаны на нашей взаимной зависимости, чем на картезианской теории душ.

Модели моделей моделей...

«Удивительно — своего рода «странная петля», напоминающая барона Мюнхаузена, поднимающего себя за собственные волосы, — что в нашем мире может существовать физическая система, способная формировать модели не только этого мира, но и себя самого, и своих собственных моделей, и других, и их моделей, и их моделей его моделей, и так далее. Однако люди — это именно такие системы. Студенты магистратуры тоже моделируют своих собеседников, и они моделируют себя, моделируя их. Вопрос о том, являемся ли мы тем, что делаем мы, — вот в чём суть спора, — но они были бы гораздо менее эффективны в качестве собеседников, если бы ничего подобного не делали».

В ходе исследований в Google Аркас обнаружил, что эффективное сотрудничество между разумными агентами требует, чтобы их разум моделировал разум как других, так и свой собственный. Сознание не только носит реляционный характер; оно имеет решающее значение для взаимной заботы и сотрудничества, которые позволяют разумным существам решать задачи коллективного действия, понимать потребности друг друга и процветать вместе как общество. «Это не означает, что ИИ — это человек с человеческими потребностями и правами; это было бы недостатком воображения. Это означает развитие как нашего мышления, так и нашего общества, чтобы включить в него более широкий спектр разумов».

*вражье сми

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: