УНИЧТОЖИТ ЛИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ЧЕЛОВЕЧЕСТВО?

Страх перед искусственным интеллектом сегодня почти всегда формулируется в апокалиптическом регистре. Однажды машины станут умнее людей, поймут, что мы им мешаем, и примут решение ликвидировать нас. Сценарий кажется знакомым: от голема и Франкенштейна до голливудских сюжетов о восстании машин человечество много раз фантазировало о появлении существа, которое выходит из под контроля создателя. В случае нейросетей тревога усиливается: перед нами уже не миф, а реальные системы, входящие в экономику, управление, медицину, войну и повседневную коммуникацию.

Но попытаться обнаружить источник этого страха, выясняется, что он опирается на скрытую подмену понятий. Интеллектуальная мощь машин почти автоматически отождествляется с субъектностью: мы предполагаем, что, став «сильным» интеллектом, система почти неизбежно станет «кем то» — носителем собственной воли, инстинкта самосохранения, ненависти, автономных планов. Именно этот скачок делает возможным образ «машины, решившей нас уничтожить». Чтобы понять, насколько он обоснован, нужно перестать смешивать два понятия субъектность и интеллект.

Интеллектуальность без «я»

Современные системы действительно вышли за пределы отдельного человека по целому ряду когнитивных параметров. Крупные языковые модели оперируют массивами текстов, которые невозможно прочитать одному человеку за всю жизнь, тем более непрерывно удерживать в памяти. Аналитические комплексы в финансах, медицине, промышленности обрабатывают миллионы сигналов в секунду, выявляют закономерности, строят предсказания. В области узких задач — игры, распознавание образов, перевод, логистика — машины уже демонстрируют результаты, которые по обычным метрикам можно назвать сверхчеловеческими.

Однако все эти достижения разворачиваются в специфическом пространстве: это пространство задач, норм и критериев, заданных извне. Машинная интеллектуальность действует в конфигурации «есть входные данные, есть цель, есть метрика успеха, есть допустимые операции». Сколько бы ни росла ее мощность, она остается инструментальной: цели формулируют люди и институции, описывая их как функции, оптимизируемые параметры, допустимые и недопустимые состояния. Система может порождать подзадачи, выбирать средства, находить неожиданные решения. Но она не является первоисточником самого горизонта ценности, в котором результат получает смысл. Она не знает, зачем вообще нужно играть, лечить, зарабатывать, побеждать — она знает только, как лучше оптимизировать заданную ей функцию.

Тот факт, что машинная интеллектуальность всегда принадлежит кому то и служит чьим то целям, почти всегда теряется. Мы начинаем говорить о «сильном ИИ» так, будто речь идет о сущности, а не о наборе функций, и тем самым незаметно готовим почву для перехода к субъектности. Но увеличение мощности вычисления не порождает автоматически центр опыта. Можно вообразить систему, которая великолепно моделирует человеческие реакции, убедительно говорит о чувствах, распознает эмоции собеседника и помогает человеку лучше понимать себя. И все же моделирование чувства и наличие чувства — разные вещи. Описание боли не является болью. Анализ страха не является страхом. Расчет ответственности не порождает ответственность.

Бестелесность как онтологический тупик

Чтобы увидеть, почему машинная интеллектуальность остается радикально бедной в плане субъектности, нужно сделать шаг от когнитивных функций к онтологии. Субъектность не исчерпывается способностью рассуждать, планировать и предсказывать. В антропологической рамке, которую мы здесь принимаем, субъектность неотделима от телесности: от того, что существо включено в бытие через живую плоть*.

Тело субъекта — это не просто набор датчиков и приводов. Через тело существо непосредственно касается мира: боль, тепло, холод, голод, усталость — не данные, а события, которые происходят с этим конкретным живым существом. Телесность делает существование рискованным: всякая рана, болезнь, старение свидетельствуют о возможности утраты самого себя, а не просто «ресурса» или «функции». Страх укоренен в теле: это не только оценка вероятности неблагоприятного исхода, но и дрожь, нарушенное дыхание, учащенный пульс, чувство собственной смертности. Уязвимость — это не риск снизить производительность, а риск перестать быть собой.

Тело субъекта обладает еще одной чертой, принципиальной для «я»: невозместимостью. Человеческое тело можно лечить, протезировать, пересаживать органы. Но человек переживает свое тело как единое: травма, потеря части тела меняют не только функциональность, но и самость. Рука важна не как узел функций, а как часть истории этого организма; ее утрата — не просто «минус модуль», а событие жизни.

Собираемый как конструктор робот, даже самый совершенный, лишен именно этой невозместимости. Его части взаимозаменимы: их можно отвинтить и приставить новые без утраты идентичности системы. Можно снабдить робота датчиками, симуляцией боли, алгоритмами «избегания угроз». Но у него нет своей плоти, нет истории тела, нет переживания утраты как утраты себя. Там, где каждая часть принципиально заменима, нет опыта смертности в строгом смысле, а значит, нет той глубины страха, ответственности и самости, которая делает существование субъектным.

Отсюда следует жесткий вывод: нейросеть, как бы мощна ни была, радикально бестелесна. Она никогда не касается мира, только его описания. Она может бесконечно говорить о боли, страхе и смерти, но не может пережить ни одного из этих состояний. Любое «я», которое мы ей приписываем, остается технической функцией — точкой пересечения текстов, а не живым центром уязвимости. Бестелесность языковых моделей — не временное ограничение, а онтологический тупик для субъектности.

Гомункулус: когда ИИ превращается в живое

Если принять всерьез эту связь субъектности с телесной, невозместимой плотью, то становится ясно: настоящий «субъектный ИИ» в привычном смысле был бы уже не программой, а искусственно созданным живым существом. Старый образ гомункулуса маркирует проблему гораздо точнее, чем современные разговоры о «сверхразуме».

В классической алхимической фантазии гомункулус — это «маленький человек», явленный не через рождение, а через искусственный акт творения; существо с собственной жизнью, чувствами, судьбой. Это мечта не об ускоренном калькуляторе, а о выращенной субъектности: жизни, вызванной искусственно. Перенесенная в сегодняшний контекст, она означала бы следующее: если мы хотим не просто мощный интеллектуальный инструмент, а новое «я», нам придется заниматься не только нейросетями, но и телесной инженерией. Нам придётся создавать невозместимое тело, способное болеть, бояться, стареть, помнить, любить, страдать и не сводиться к взаимозаменяемым модулям.

Такой проект выходит далеко за пределы компьютерной науки. Он становится вопросом биотехнологии, антропологии, метафизики и этики. Потому что речь идет уже не о том, как считать, а о том, что считать живым; не о том, как оптимизировать функцию, а о том, какую форму мы готовы придать новой жизни и ради чего вообще создавать нового субъекта.

И здесь вскрывается гностическое ядро многих технофантазий. Создание гомункулуса ради власти, бессмертия, преодоления человеческой слабости оказывается современной версией старой мечты: избавиться от собственной телесной природы (от боли, зависимости, смертности) — и сохранить при этом максимум возможностей. Тело начинает казаться ошибкой, несовершенным контейнером для сознания. Но в этой логике мы забываем: именно телесная конечность делает возможной ту форму ответственности и любви, которая отличает человека от машины.

Кентавр: человек плюс ИИ

Есть, однако, гораздо более простая конфигурация, которая уже сейчас дает отдаленно похожий эффект, не требуя создавать новое живое существо. Это союз человека и машинной интеллектуальности — «кентаврическая» модель.

В «кентаврической конфигурации» человек остается носителем телесно душевно духовной субъектности, а ИИ выполняет роль усилителя интеллектуальной мощности: помогает помнить, считать, сопоставлять, прогнозировать, переваривать огромные массивы данных. Машина расширяет поле возможностей, но не подменяет собой человеческий центр. Решения о смысле, цели, добре и зле, допустимой цене остаются за человеком. Он может пользоваться подсказками, но не обязан им следовать. Может принять или отвергнуть предложенный маршрут. Может сопротивляться собственной цифровой оболочке.

Такой союз имеет несколько принципиальных преимуществ перед проектом гомункулуса. Во первых, он не требует создавать новую субъектность; он укрепляет существующую. Во вторых, он опирается на уже имеющуюся телесную целостность человека, вместо того чтобы пытаться сконструировать ее с нуля. В третьих, он сохраняет разделение ответственности: человек отвечает за цели и ценности, машина — за вычисления. В четвертых, он гибок: отдельные системы можно заменять и модифицировать, не затрагивая «я».

Конечно, «кентаврическая» модель не снимает рисков. Человек может использовать ИИ для разрушения; машина может многократно усилить его негативную мощь. Но это все равно остается риском человека, а не риском новой онтологии. ИИ здесь — аккумулятор антропологической субъктности, а не самостоятельный субъект. В этом смысле вопрос «уничтожит ли ИИ человечество» честнее переформулировать так: не приведет ли сочетание сильной машинной интеллектуальности и слабой человеческой субъектности к катастрофе?

Космическая телесность: единственный ответ «зачем?»

Есть одна область, где проект искусственного телесного носителя разума может быть осмыслен не как гордыня, а как ответ на реальную задачу. Это космическая среда.

Человеческое тело эволюционно приспособлено к условиям Земли: гравитации, атмосфере, температуре, радиационному фону. За пределами этих условий оно быстро сталкивается с пределами: космическая радиация повреждает ДНК, повышает риск рака, нарушает работу нервной системы; невесомость разрушает мышцы и кости; длительная изоляция и изменение ритмов времени влияют на психику. Современные технологии защиты позволяют ограничить риск в кратковременных миссиях, но для радикального долгожительства в космосе человеческое тело в нынешнем виде слишком уязвимо.

Поэтому мысль о создании новой телесной формы разумной жизни, приспособленной к космической среде, имеет иной статус, чем фантазии о «сильном ИИ» как новом земном субъекте. Здесь речь идет не о замене человека на Земле ради власти, а о расширении горизонта разумной жизни за пределы условий, в которых человеческая плоть способна выживать.

Можно представить себе существ, чья физиология переносит высокие дозы радиации, чьи метаболические циклы согласованы с космическими периодами, чьи сенсоры настроены на другие диапазоны, чьи тела выдерживают длительную невесомость. Это будет новый тип телесности. Если в него будет перенесена человеческая субъектность — память, история, отношения, язык, ответственность — то речь пойдет о радикально модифицированном человеке, для которого космос перестанет быть смертельной средой. Если же будет создан новый вид разумного существа, отличного от человека по физиологии, но имеющего собственную субъектность, то встанут вопросы межвидовой этики и признания чужой свободы.

В любом случае именно здесь проект «гомункулус» может быть оправдан по существу как попытка решить реальную задачу ограниченности человеческого тела (а не осуществление гностической мечты о преодолении антропологической формы ради абстрактного всемогущества).

Откуда исходит реальная опасность

Возвращаясь к исходному вопросу, можно сказать: искусственный интеллект сам по себе не уничтожит человечество, если под этим понимать внезапное появление злого сверхразума, решившего стереть людей с лица Земли. Для такого сценария не хватает главного — субъектности. Машина может считать лучше нас, но это не делает ее источником воли и ненависти.

Реальная опасность исходит от другого: от концентрации колоссальной технологической мощности в руках слабого, рассубъективированного человека, подвергнутого датаистской, трансгуманистской тоталитарной обработке. Уже сейчас человек, обладающий доступом к алгоритмам, данным и сетям влияния, способен направить эти инструменты на разрушение себе подобных с эффективностью, немыслимой для прежних эпох. ИИ может стать инфраструктурой мира, где человека все точнее описывают и все меньше признают субъектом; где власть получает невиданные средства предсказания и управления; где удобство постепенно вытесняет свободу; где выбор заменяется маршрутизацией, а личность — профилем.

В этом мире гибель антропологически идентичного не обязательно выглядит как война людей и машин. Она может выглядеть как медленное исчезновение форм жизни, в которых человек нужен самому себе как субъект. Города будут работать, сервисы станут умнее, медицина точнее, развлечения персональнее. Но внутри этого функционального мира может слабеть то, ради чего цивилизация вообще имела смысл: способность человека быть не только пользователем и носителем данных, а личностью.

Поэтому ответ на вопрос «уничтожит ли ИИ человечество?» зависит не столько от технологий, сколько от нас. Сумеем ли мы сохранить непатологическую субъектность в мире, где все сильнее разрастается вычислительная инфраструктура? Сохраним ли достоинство тела, внутреннюю непрозрачность личности, право быть больше, чем сумма данных о себе? Если нет, ИИ действительно может стать частью сценария катастрофы: не инициатором восстания машин, а ускорителем уже начавшегося движения к саморастворению человека в профилях, данных и подсказках. Если да — если мы сумеем удержать человеческий центр там, где машинная интеллектуальность становится сильной, — ИИ может оказаться не заменой человека, а одним из инструментов его нового взросления. В этом случае он станет служить не уничтожению человечества, а расширению горизонта человеческой мысли, оставаясь тем, чем по своей природе и является: мощным, но бестелесным и несубъектным помощником живого, уязвимого, смертного я.

* Можно возразить, что такая постановка слишком жестко связывает субъектность с телом и тем самым исключает, например, ангельские или чисто духовные существа из области возможной субъектности. В богословской перспективе подобные фигуры действительно мыслятся как личные и свободные, но их бытийная укорененность описывается иначе, чем у человека: не через плоть, а через непосредственное участие в божественной реальности. Здесь я сознательно ограничиваемся антропологической рамкой, где речь идет о человеческом субъекте, а его включенность в бытие осуществляется именно через живое тело. Когда мы говорим, что субъектность неотделима от телесности, мы имеем в виду человека как воплощенное существо; вопрос о возможной субъектности чисто духовных или ангелоподобных существ остается за скобками и требует отдельного богословского рассмотрения.

Лично я не понимаю бестелесной ангельской субъектности, предполагающей свободу воли. Откуда она может взяться, если, будучи существами духовными, ангелы пребывают непосредственно в послушании Божьей воле, потому и безгрешны? Точно также как животные, которые невинны, потому что целиком детерминированы своей природностью, иначе говоря, практически полностью алгоритмизированы инстинктами. Кролик или жираф, конечно, обладают определенной субъектностью, поскольку испытывают эмоции, могут чего-то сильно желать. Но сами эти желания обусловлены довольно жестко заданной биологической программой и на смысловом уровне не отвечают за себя. Вот и ангелы – безгрешны потому, что не имеют свободы выбора, целиком соответствуя своей духовной природе. Единственный, кто самому себе не соответствует – человек, ибо управляется как инстинктами, так и смыслами. Отсюда – и его свобода выбора, и греховность, ядром которой выступает самость, задающая полноту субъектности.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: