Статья «Джон, не робот» из цикла «Современная философия науки»

МЕНЮ


Искусственный интеллект. Новости
Поиск
Регистрация на сайте
Сбор средств на аренду сервера для ai-news

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация




RSS


RSS новости

Новостная лента форума ailab.ru


2019-01-03 14:35

Философия ИИ

Мы – не роботы, роботы – не мы. К сожалению, я не знаком с методикой преподавания в начальных школах современной России. Однако рискну предположить, что не найдется ни одной, где бы детей учили читать и писать по этим образцам. В тех из них, где правит православие (или параллельные конфессии), фокус, должно быть, стоит на однострочниках из Священных Писаний. Там же где проповедуют что-то более современное (должны же были выжить и такие?!), это высказывание, скорее всего, оценивается, как более чем спорное. Это нечестивый слуга Антихриста Дарвин своими опасными идеями замкнул модельный круг, соединив набор отдельных точечных верований в слитную фигуру научного мировоззрения. Только с его помощью удалось поставить под сомнение доселе неопровержимый теологический аргумент существования Бога «от дизайна» живых существ. С тех пор эта ментальная модель только росла и набирала силу. И это она широкими и простыми мазками нарисовала нам простую широкоформатную картину бытия. И это она проникла в наши учебники биологии, закрепив свой успех подпиткой от подрастающего поколения. И это она убедила нас в том, что жизнь на Земле возникла посредством случайной комбинации неживых физических ингредиентов. Коль скоро это так, то человеческий разум, в мозгу которого некогда материализовалась модель материализма, будучи продуктом эволюции, совершенно ничем не отличается от компьютеров, ведь они сделаны из того же самого материала. Коль скоро это так, то и искусственный интеллект ничем не отличается от естественного, более того, вероятно, в самом ближайшем будущем положит его на лопатку и сожрет с потрохами и извилинами. Коль скоро это так, то и мы – всего лишь роботы, пусть и построенные из живых клеток, а не полуживых полупроводников. Коль скоро это так, то и роботы в состоянии осознать себя как личность, мыслить, чувствовать, может быть, даже любить, в точности как и мы. По существу, все эти «то» после «коль скоро» являются чуть ли не прямыми дедуктивными следствиями из фундаментальной модели мироздания.

Примерно такие идеи, ставшие популярными во времена эйфории от первых успехов информационных технологий, популяризовал для многонациональной аудитории Исаак Азимов в своей серии популярно-фантастических рассказов «Я, робот». Примерно те же модели и примерно в то же время стали активно обсуждаться мыслителями направления т.н. philosophy of mind. По-русски возможно, что наиболее адекватный перевод - «философия разума». По-рунетско-википедски это называется «философия сознания», но здесь я не имею право никого винить. Проблема заключается в хилости великого и могучего – банально не хватает слов. Скажем, на английском есть mind, consciousness, awareness и т.д. – причем и этого явно мало. По-нашенски же все это разнообразие пытаются запихать в единственное наше «сознание». Да, так вот, резкое усиление физики, как самого передового отряда самой передовой науки своего времени, не могло не сказаться на философии. Там давно и прочно бал правил физикализм, который вовсю трубил о трубе дела оккультистов и креационистов. Все, что в мире существует, благополучно описывается физическими законами природы, за пределами которой ровным счетом ничего нет. Подавляющее большинство ученых было, соответственно, сначала подписано на программу бихейворизма. Когда она неблагополучно провалилась на обочину трассы науки, то желтую майку лидера — пелетона философов разума — быстро надел ее идейный наследник - функционализм. Последнее течение напрямую объявляло наше сознание программой, запущенной на компьютере головного мозга. И тут как всегда - к счастливому ортодоксальному хору внезапно подмешалось несколько еретических голосов, вносивших неприятный диссонанс в установившуюся гармонию. Одним из них стал американский мыслитель Джон Сёрл, с творчеством которого мы бегло познакомимся в рамках программы изучения классических мыслительных экспериментов. Прежде чем приступить к изложению его идей, я хотел бы обратить Ваше внимание на то, что постепенно поймал ритм вальса и буду стараться в будущем исполнять свои статьи серии «Современной философии науки» в канонической триольной форме. В первой будет предложен тезис, во второй - антитезис, а на счет три я выскажу собственное мнение. Из вышесказанного следует то, что в нижесказанном будут описаны модели Джона, которые могут отличаться от моих собственных.

Итак, китайская комната. Почему именно китайская и именно комната? Если Вы спросите случайного прохожего на улице назвать его любимую цифру, то наиболее вероятный ответ – 7. Если цвет, то синий. Причины этих предпочтений – загадка природы нашей головы, над которой ломают свои головы психологи. У философов тоже есть свой излюбленный лабораторный инвентарь для организации мыслительных экспериментов, однако их логику можно попытаться проследить. Положим, воду они обожают не только потому, что без нее и ни туды и ни сюды, но поскольку она еще одновременно является H20. Смертный Сократ – дань многовековой традиции. Бессмертный Бог или демоны (которых в последнее время уверенно теснят безумные ученые) ими привлекаются, когда требуются сверхъестественные силы. Ну, а Поднебесную они вспоминают в тот момент, когда им требуется очень много действующих лиц, т.е. за многочисленностью населения. Ну или когда речь идет о чем-то совершенно чуждом и непонятном, типа китайского языка. Данный случай – как раз тот самый. Что касается комнаты, то здесь безусловное влияние оказал один из титанов дискретной математики, знаменитый Алан Тьюринг. Это в его знаменитом тесте, предназначенном для определения интеллектуальности искусственного разума двух конкурсантов (белкового и кремниевого) и судью рассадили по разным комнатам. Одной из целей ментального опыта Джона Сёрла как раз и стало опровержение адекватности критерия Тьюринга. А другую, основную, он высказал в первых строках своей произведшей изрядный шум статьи, эхо от которого до сих пор не стихло, хотя прошло уже без малого сорок лет. В гранд-нарративе вокруг и около искусственного интеллекта (в дальнейшем ИИ) Джон выделил два интересующих его тезиса. Первый он назвал «слабый (или осторожный) ИИ», который утверждает, что компьютер представляет собой очень мощный инструмент для исследования мира и в том числе человеческого сознания. К нему претензий у него не было. Вторая модель – «сильный ИИ» - не видит никакой разницы между искусственным и естественным разумом. С этих позиций особым образом запрограммированная железка имеет те же когнитивные состояния, что и человек, обладает полным пониманием того, что она делает. Вот опровержение этого утверждения и стало основной задачей «китайской комнаты».

Я теперь изложу принцип ее работы в несколько упрощенной редакции. Представьте себе, что Вы находитесь внутри некоторого закрытого помещения и Вам через щелочку снаружи просовывают кипу бумаг с иероглифами на них. Почему именно Вы, а не я? Неужели это я по вредности характера нарочно возложил столь сложную задачу на других? Нет, дело в том, что я надеюсь, что в отличие от меня, Вы ни бельмеса в сей китайской грамоте не смыслите. Это - ключевой навык для успеха всего эксперимента. В этом Ваша уникальная ценность для большой науки. Итак, это должны быть именно Вы. Но волноваться не стоит, я не оставлю Вас без своей поддержки. Состоять она будет в том, что у Вас еще в наличии есть две вещи. Набор столь же непонятных символов Вас вряд ли обрадует. Но рядом с ними лежат и подробные инструкции на русском языке, которые позволяют Вам из полученного набора тарабарщины составить белибердинщину. Результат Вашей деятельности Вы просовываете назад, за что и получаете свое заслуженное вознаграждение. Что же полезного Вы сделали? Оказывается, что те существа, которые находятся снаружи, называют Ваше русскоязычное руководство пользователя «программой», входной пакет документов «вопросом», а то, что поступило им от Вас назад, «ответом» на них. При условии что «программа» была достаточно хорошо написана, а Вы исполнили инструкции достаточно аккуратно, весь внешний мир бешено аплодирует. Он убежден в том, что комната прекрасно владеет семантикой происходящего. Очередная победа китайской науки и техники.

Мораль сей сказки очевидна. Коль скоро Вы ничего в происходящем не понимаете, то в точно таком же состоянии находится компьютер. Вы ведь всего лишь исполнили роль процессора в его недрах. Работа программы в этой трактовке принципиально отличается от сознательной деятельности человека. Речь идет о формальной механической обработке данных, смысл в этом занятии полностью отсутствует. Итак, Джон Сёрл посеял мыслительный эксперимент. И пожал он гром! И разразилась буря гневных протестов! Защищаясь от них, ему несколько раз пришлось переписывать сценарий работы комнаты. В наиболее канонической форме ее обитатель просто пошагово исполнял инструкции предполагаемой программы, записывая и переписывая содержимое ее ячеек памяти на клочках бумаги. Конечно же, и эта модификация его идейных противников до конца не убедила. Их возражения мы обсудим на следующем занятии, а сегодня давайте напоследок зададимся вопросом, как же Джон поженил свое недоверие к способностям вычислительной техники на моделях физикализма-материализма. «Горько» этому горькому союзу кричали его высказывания типа того, что было предложено в виде домашнего задания: «Может ли машина думать? Мое видение, что только определенная машина может думать, и это весьма особый вид машин, а именно мозг… Никто не предполагает, что мы можем производить молоко и сахар посредством компьютерных симуляций формальных процессов лактации и фотосинтеза, но что касается разума, то многие люди желают верить в подобное чудо…»

За долгие века существования философии было предложено много моделей человеческого сознания. Долгое время большим влиянием пользовался дуализм Декарта. Он представлял себе res cogitans (душу, сознание) наблюдающим за приключениями res extensa (тела, материи) через узкую замочную скважину шишковидной железы. Фрейд и его последователи преобразовали эту картину в театр, на авансцену которого из-за кулис подсознания выпрыгивали те или иные персонажи. Джон Сёрл видит содержимое нашей психики как особый биологический суп. Он булькает на огне эволюции, время от времени пуская на поверхности пузырьки сознания. Идея может быть и интересная, но требующая серьезного развития. Что это за особые ментальные составляющие адской смеси у нас в головах? Откуда они берутся и чем отличаются от тех материй, которые описывает наша физика? Ответов на эти очевидные вопросы Джон не дает, способов проверить или фальсифицировать свои учреждения не предоставляет. Это несколько оправдывает соответствующее недоумение конкурирующих моделей - когерентность его представлений близится к нулю. Тем не менее смелость философской позиции этого мыслителя заслуживает всяческого уважения. Весь мир усиленно отпиливает свои антенны и опускается на колени, в молитвенном восторге прославляя робототеизм. Но он, Джон – не робот!

Рядом с «китайской комнатой» проживает много, очень много раздраженных соседей. Они хотели, очень бы хотели закрыть ее на капитальный ремонт. Причем лучше такой, из которого уже не возвращаются. Мы просто не в состоянии рассмотреть все их заявки в рамках нашего скромного курса современной философии науки. Поэтому предоставим слово только одному типичному жалобщику. Но какому! Центральный нападающий квадриги нового атеизма приглашается на подиум Блога Георгия Борского…


Источник: m.vk.com

Комментарии: