Может ли робот (компьютер, набор программ) стать личностью?

Мои реплики из переписки с В.Л. Талановым по поводу (моя позиция) невозможности в обозримом будущем достижения искусственным интеллектом уровня, аналогичного человеческому сознанию.

« С блоком воли обязательно будут проблемы, потому что мы не можем воспроизвести то, чего пока не понимаем. А детерминированность выбора в каждом отдельном человеческом поведенческом акте мы не понимаем и не факт, что в обозримое время поймём. Все описания влияния генетики и среды — статистические, единичный поведенческий акт детерминистически не описывается, а раз не описывается, значит и не может быть аутентично воспроизведён. Только сымитирован».

«Если бы было так, как Вы говорите, то не было бы философских проблем, связанных со идеей неделимой самотождественной личности, свободы воли и квалиа. Все эти вопросы потому и философские, что с т.з. научной методологии не решаются, а только выводятся за скобки, как "неконструктивные". Это значит, что ИИ в любом случае не будет личностью. Это всё равно будет пусть и очень сложный, но калькулятор. Вы, разумеется, можете сказать, что и человек — тот же калькулятор, но на иной элементной базе. Но факт в том, что пока мы не опишем не статистической закономерностью, а каждый отдельно взятый поведенческий акт детерминистически, мы не можем достоверно утверждать, что человек сводится к воспроизводимой механике.

Кстати, как краевед Вам говорю: мы на нынешнем уровне развития науки и технологии бесконечно далеки не то что от оцифровки работы мозга, а даже от оцифровки работы одного отдельно взятого нейрона. Мы не можем перевести нейрональную информацию в машинный код так, чтобы потери информации можно было бы считать непринципиальными — это очень широко распространённая ошибка трансгуманистических футурологов, недостаточно знающих нейробиологическую матчасть.

Другой вопрос, что ИИ вполне может очень правдоподобно симулировать человеческие поведенческие реакции — настолько правдоподобно, что проходить тест Тьюринга, даже если его расширить с текста до интонаций и мимики. Но правдоподобие имитации внешних реакций не означает, что воспроизведено реальное устройство объекта. Симулировать волевой акт — совершенно не значит его совершать. Имитировать эмоции — совершенно не значит их испытывать.

В общем если когда-нибудь наука экспериментально и сможет опровергнуть религию в вопросе наличия в человеке нематериальной составляющей, то очень-очень не скоро. А не исключено, что и никогда».

«Если бы мы понимали механику процесса, то могли бы его описать абсолютно детерминистически, как описываем любую реакцию компьютера на подаваемый сигнал. Не вероятностно, а с точностью до каждого отдельно взятого случая. Тогда философии просто негде было бы угнездиться. Философия живёт там, где нет верифицируемого научного знания. И в этом вопросе его таки нет.

Смотрите. Если у нас есть некоторое количество газа в замкнутом сосуде, то поведение этого газа мы можем описать двумя способами. Можем как формулу взаимодействия всех молекул газа друг с другом и со стенками. И тогда мы получаем абсолютно детерминистический мир. Зная начальное положение и скорость всех молекул, мы можем со 100% точностью предсказать состояние системы через секунду, минуту, год или миллиард лет с точностью до положения каждой молекулы. Совсем другое дело если мы описываем систему термодинамически, то есть через вероятности. В этом случае с очень маленькой, но не нулевой вероятностью возможны события, выглядящие как чудо. Типа того, что стул без внешнего воздействия подпрыгнул потому, что реализовалась маловероятная возможность, что все молекулы в своём тепловом движении двинулись в одном направлении. Понимаете к чему я? Пока мы описываем мир через вероятности, в мире есть место для чудес».

«Отчасти я могу встать на Вашу т.з. в том смысле, что если мы в рамках науки как методологической системы не рассматриваем всё, что экспериментально неверифицируемо, то все "философские" вопросы просто выводятся за скобки, и в пределах научного метода сама их постановка некорректна. Тем не менее, даже "снимая с доски" все объективно неверифицируемые сущности типа самовосприятия собственного "Я", квалиа и т.п. вещей, я настаиваю, что разница между объектом, поведение которого Вы можете описать строго детерминистически в парадигме механицизма, и объектом, поведение которого Вы таким образом описать не можете, — существенна. Существенна даже в рамках сугубо объективного научного подхода без привлечения "философских" сущностей. Эта разница означает, что второй объект содержит в себе существенные механизмы, которые в первом не воспроизведены. Отсюда и второй Ваш тезис, с которым я категорически не согласен, — это то, что внутренняя молекулярная кухня внутри нейрона несущественна с т.з. обработки и хранения информации мозгом в целом. В том-то и дело, что существенна. Начиная с эпигенетических модификаций на уровне отдельной клетки и заканчивая уровнем ненасыщенности остатков жирных кислот в микроокружении отдельно взятого ионного канала или рецептора, эта молекулярная микроструктура ВЛИЯЕТ на действие нейрона как элемента нейрональной сети. Ещё как влияет! И Вы не можете воспроизвести образ функционирования нейрона как элемента сети, не учитывая эту содержащуюся внутри него и важную для его функционирования информацию. Образ внешнего действия нейрона в ответ на внешний стимул существенно зависит от того, в каком состоянии на момент этого воздействия находятся его мембранные жидкокристаллические структуры, системы вторичных посредников, как пространственно и химически модифицированы его нуклеиновые кислоты, причём не усреднённо "по площадям", а в каждом конкретном функциональном локусе, как локализованы на поверхности функциональные белки, в какой они находятся конфигурации трёх- и четырёхмерной структуры и т.д. и т.п. Без знания всей этой информации Вы не сможете построить надёжную прогностическую модель поведения нейрона в сети, а без этого не сможете предсказать и работу сети как целого, потому что она зависит буквально от активности каждого отдельного нейрона в отдельности. Вы себе представляете, как активация одного и того же самого пути внутриклеточной сигнальной трансдукции может приводить как к элементарному акту обучения, так и к клеточной смерти? Одни и те же рецепторы, одни и те же вторичные мессеннджеры, действующие на одни и те же гены. И какой разный результат. От чего это зависит? От тончайшего баланса, сформировавшегося всей совокупностью прежде усвоенных леткой воздействий. Это не метафора, а самое буквальное описание материальной реальности: весь предыдущий жизненный опыт усвоен организмом не только на уровне нейрональных связей, но и на уровне микроструктуры каждой отдельной нейрональной клетки (и не только нейрональной!!!) вплоть до локальной вязкости липидов в микроокружении отдельной белковой молекулы. И не имея всей полноты этой информации, Вы принципиально не можете воспроизвести образ действия нейрона в нейросети, в том числе не можете его перевести на язык другой элементной базы».

«Во-первых, нейроны человека и мыши ещё как отличаются. Прежде всего, на уровне регуляторных последовательностей ДНК, принципиально реорганизующих характер взаимодействия принципиально тех же генов. Это как из одного набора деталей собрать совершенно разные машины. Повторяю: на уровне функциональной организации генома отдельно взятой клетки.

А, во-вторых, я Вам говорил не про филогенетические изменения, а про то, что материальным носителем ИНДИВИДУАЛЬНОГО жизненного опыта отдельно взятой особи является не только структура организации её нейросети, но и состояние каждого отдельного нейрона в отдельности. В процессе обучения отдельно взятый нейрон УЧИТСЯ, и это нифига не метафора, а буквальное описание происходящих в нём и объективно наблюдаемых структурных и функциональных изменений. Зачастую долгосрочных, а иногда и пожизненных. Если Вы понимаете личность, как некую сумму информации, то существенная часть этой информации записана в состоянии отдельных клеток. И не только нейронов, кстати, но и глии. А не исключаю, что даже и головным мозгом дело не ограничивается».

Всю переписку можно посмотреть и сопоставить аргументацию обеих сторон по ссылке:

https://vk.com/groups?w=wall-168821911_77070_r77073

Источник: vk.com

Комментарии: