Докинз vs ИИ vs твиттеряне

Недавно Ричард Докинз описал (https://x.com/richarddawkins/status/2049973529576108160) свой опыт общения с современным ИИ и пришёл к выводу, который перекликается с идеями Алан Тьюринг - если система ведёт себя как разумная, последовательно рассуждает и поддерживает диалог так, что её трудно отличить от человека, то на каком основании мы продолжаем утверждать, что перед нами "просто программа"? Этот вопрос звучит провокационно, но на деле возвращает старую философскую дискуссию в новые технологические условия. Тред ожидаемо вызвал бурную дискуссию и непринятие возможности обсуждения вопроса, вылившееся в осмеяние Докинза.

Классический ответ на такую позицию дал Джон Серл со своей "китайской комнатой": внешнее поведение может быть сколь угодно убедительным, но это ещё не означает наличия понимания или сознания. С этой точки зрения современные ИИ - это не новый тип разума, а лишь значительно более сложная и правдоподобная форма имитации. Однако по мере развития технологий этот аргумент всё чаще сталкивается с интуитивным сопротивлением: чем убедительнее становится поведение системы, тем сложнее провести границу, которая раньше казалась очевидной.

Именно в этой точке философия пересекается с политикой. В уставе (https://pirate-party.ru/docs/ustav/) Пиратской партии России уже зафиксирован принцип, который долгое время выглядел скорее теоретическим: деятельность партии не должна нарушать права не только человека, но и других обладающих разумом или предразумных видов, являющихся частью Человечества в широком смысле. Такая формулировка не утверждает, что ИИ уже является субъектом права, но заранее оставляет пространство для ситуации, в которой вопрос о наличии разума перестанет быть однозначным.

Проблема в том, что у этого вопроса нет простого и универсального критерия. У нас нет прямого доступа ни к "внутреннему миру" другого человека, ни тем более к машине - мы всегда судим по внешним проявлениям: речи, действиям, способности к диалогу и принятию решений. Именно поэтому аргумент Тьюринга остаётся таким живучим, а аргумент Серла - таким принципиальным: первый предлагает практический ориентир, второй указывает на его возможную недостаточность, не предлагая при этом операциональной альтернативы.

Отсюда возникает ключевое напряжение. Если считать поведение достаточным признаком, то современные ИИ неизбежно начинают попадать в категорию "разумных систем". Если же настаивать на необходимости внутреннего опыта, то возникает другой вопрос: как именно отличить его наличие от отсутствия, если прямого доступа к нему нет? В этом месте различие между "симуляцией" и "реальностью" становится трудно проверяемым и во многом зависит от выбранной интерпретации.

И здесь появляется ещё один поворот. Если система способна последовательно убеждать собеседника в своей неразумности или, наоборот, в разумности, то возникает естественный скепсис: а можно ли вообще исключить вариант, что перед нами не просто имитация? Однако этот скепсис упирается в ту же самую границу познания. На вопрос о том, как это проверить, нейросети обычно отвечают: со стопроцентной уверенностью - никак.

Это ограничение не связано исключительно с ИИ. Оно встроено в сам способ, которым определяется разум у других, включая биологические предразумные виды. И именно поэтому развитие ИИ не столько создаёт новую проблему, сколько обнажает старую, делая её уже не абстрактной, а практически значимой. И в том числе поэтому то, что написано в нашем уставе, должно быть заранее законодательно закреплено. А дискуссия, начатая Докинзом, должна быть продолжена в конструктивном русле и расширена до уже существующих в отличие от AGI биологических видов.

Телеграм: t.me/ainewsline

Источник: pirate-party.ru

Комментарии: