Отрывок из книги Николаса Карра "Пустышка. Что Интернет делает с нашим мозгом" :

Это был один из самых странных, но при этом и многозначительных эпизодов в истории компьютерной науки. В течение нескольких месяцев 1964-1965 годов Джозеф Вейценбаум, 41-летний учёный, занимавшийся компьютерными науками в Массачусетском технологическом институте (МТИ), писал программу для разбора письменного текста, которая должна была работать в составе новой университетской системы распределения ком-пьютерного времени. Студент, сидевший за одним из терминалов системы, печатал предложение, а программа Вейценбаума, руководствуясь простыми правилами английской грамматики, определяла значимое слово или фразу в предложении, а затем анализировала синтаксический контекст, в котором это слово или фраза использовались. Затем программа должна была, в соответствии с другим набором правил, превратить исходное предложение в другое, выглядевшее как ответ на первое. Это предложение почти мгновенно появлялось на экране компьютера студента, за счёт чего создавалась иллюзия общения.

В своей статье, написанной в январе 1966 года и описывавшей программу, Вейценбаум привёл пример того, как она работает. Если человек печатал что-то типа: «В эти дни я чувствую себя несчастным», компьютеру нужно было лишь знать, что слово «я» (или I am в английской версии) обычно идёт перед описанием ситуации или мысли говорящего. Таким образом, компьютер мог на основании этого предложения сформулировать ответ: «А как долго ты уже чувствуешь себя несчастным?» По объяснению Вейценбаума, программа работала с помощью «определённого шаблона, одна часть которого реагировала на слова «I am ("я"), а другая - на завершающую часть предложения very unhappy these days ("чувствую себя несчастным")». Затем она использовала алгоритмический «комплект», соответствующий определённому шаблону, работавший на основании следующего правила: если исходное предложение звучало как «Я [есть] ЧТО-ТО», то исходная фраза превращалась в «Как долго ты ЧТО-ТО?», вне зависимости от значения «ЧТО-ТО».

Приложение Вейценбаума было продуктом своего времени. В течение 1950-1960-х годов энтузиазм в отношении компьютеров, программирования и искусственного интеллекта не только заставлял думать, что человеческий мозг представляет собой разновидность компьютера, но и то, что человеческий язык представляет собой продукт деятельности одного из алгоритмов, работающих внутри этого компьютера. Как объяснял Дэвид Голамбиа в книге «Культурная логика цифровых вычислений», новое поколение «вычислительных лингвистов» во главе с коллегой Вейценбаума по МТИ Ноамом Хомским считало, что форма «естественного языка», на котором люди говорят и пишут, отражает «операции компьютера внутри человеческого мозга, который выполняет все лингвистические операции». В своей статье, опубликованной в 1958 году в журнале Information and Control, Хомский писал, что «один из возможных методов описания грамматики может представлять собой программу для универсальной машины Тьюринга». Эта теория казалась многим крайне привлекательной, так как была окутана в соблазнительные одежды «техно¬логической инновации», пишет Голамбиа. Она предлагала «механистическую ясность», замещая «беспорядок», присущий человеческому языку, «понятным внутренним компьютером». За счёт обратного инжиниринга человеческой речи можно было обнаружить подспудный код, лежащий в основе языка, а затем воспроизвести его в виде компьютерного кода.

Вейценбаум назвал свою программу «Элиза», в честь девушки-кокни, героини пьесы Бернарда Шоу «Пигмалион», которая учится говорить на пра-вильном английском языке под опекой самонадеянного профессора фоне-тики Генри Хиггинса. Для того чтобы имитация разговора была чуть более интересной, Вейценбаум придумал своему искусственному собеседнику личность - в его представлении это был психотерапевт, работавший по методу Роджерса. В своей работе автор объяснил, что выбор личности был основан на вполне прагматичных соображениях. Психотерапевты, использовавшие метод, созданный в 1940 году психологом Карлом Роджерсом, притворялись в разговорах с пациентом, что совершенно не понимают окружающего их мира. Чаще всего они просто повторяли заявления пациентов, либо сопровождая их банальными комментариями, либо трансформируя их реплики в открытые вопросы. Понимая, что подобная наивность представляет собой своего рода игру, пациенты могли приписать своим терапевтам «глубокие знания, понимание происходящего и способность к логическому мышлению». Вейценбаум считал, что подобный персонаж мог оказаться для «Элизы» «крайне полезным в психологическом смысле» - эта роль позволяла представить, что за пустотой программы скрывается истинный интеллект.

Вейценбаум привёл отрывок из диалога «Элизы» с молодой женщиной, одной из первых протестировавших программу:

Клиентка: Все мужчины похожи друг на друга.

Элиза: В каком смысле?

К: Они всегда раздражают нас то по одному, то по другому поводу.

Э: А ты можешь привести конкретный пример?

К: Ну что ж, я пришла сюда из-за моего друга.

Э: Ты пришла сюда из-за друга.

К:Он говорит, что я постоянно нахожусь в состоянии депрессии.

Э: Мне очень печально слышать, что ты находишься в состоянии депрессии.

К: Да, это так. Я несчастлива.

Э: А ты думаешь, что твой приход сюда поможет тебе не чувствовать себя несчастной?

К: Я могу со всей определённостью сказать, что мне нужна помощь.

Э: Как по-твоему, что могло бы произойти, если бы ты получила помощь?

К: Возможно, я могла бы помириться со своей матерью.

Э: Расскажи мне больше о своей семье.

К: Мама заботится обо мне.

Э: А кто ещё в семье заботится о тебе?

К: Мой отец.

Э: Твой отец.

К: Ты тоже чем-то напоминаешь мне моего отца.

Э: Чем?

К: Ты не проявляешь агрессии, но мне кажется, что ты не хочешь, чтобы

я это замечала.

Э: Что заставляет тебя думать, что я не проявляю агрессии?

К: Ты не споришь со мной.

Э: Как ты думаешь, почему я не спорю с тобой?

К: Ты меня боишься.

Э: Тебе приятно думать, что я тебя боюсь?

К: Мой отец боится всех и вся.

Говоря о своём детище, Вейценбаум (который признавал, что оно представляет собой непримечательный и даже немного глуповатый вклад в молодую область естественно-языковой обработки) заметил, насколько простым может оказаться для программистов создание машин, «ведущих себя необычным образом и способных зачастую поражать даже искушённых наблюдателей». Однако как только «внутренние механизмы работы про-граммы объясняются простым и понятным языком, - продолжал он, - вся магия моментально исчезает. Перед нами предстаёт всего лишь набор процедур, зачастую достаточно изощрённых. Наблюдатель говорит себе: 'Такую программу мог бы написать и я сам". Программа переносится с полки, на которой написано "интеллект", на полку, зарезервированную для всяких забавных диковин».

Однако в случае Вейценбаума (как и в случае Генри Хиггинса) равновесие было достаточно скоро нарушено. «Элиза» быстро приобрела популярность среди студентов МТИ, превратившись в одну из самых любимых тем для обсуждения на лекциях и презентациях, посвящённых компьютерам и режимам разделения времени. Она оказалась одной из первых программ, способных продемонстрировать мощь и скорость компьютеров, причём образом, доступным любому непрофессионалу. Для того чтобы поболтать с «Элизой», не требовались специальные знания в области математики или вычислитель¬ной техники.

Копии программы пользовались большой популярностью и в других университетах. Затем на неё обратила внимание пресса, и вскоре «Элиза», по словам Вейценбаума, превратилась в «национальную игрушку». Он был удивлён интересом к своей программе. Но ещё сильнее его шокировало то, насколько быстро и глубоко люди, пользовавшиеся программой, «вовлекались в эмоциональную связь с компьютером» и разговаривали с ним как с живым собеседником. Они «могли, пообщавшись с компьютером в течение определённого времени, настаивать, несмотря на мои объяснения, что машина действительно их понимает». Искушению подверглась даже секретарь Вейценбаума, своими глазами видевшая, как он писал программный код для «Элизы», и «точно знавшая, что это - всего лишь компьютерная программа». После нескольких месяцев работы с программой на терминале в офисе Вейценбаума секретарь попросила профессора покинуть комнату, так как начала испытывать смущение от того, что общение с машиной приобрело слишком личный характер. «Я никак не мог понять, - говорил Вейценбаум, - каким образом достаточно короткое общение с простой компьютерной программой может вызвать столь сильные отклонения в мышлении у вполне нормальных людей».

Но тут начали происходить ещё более странные вещи. Признанные психиатры и учёные из других областей знаний начали наперебой говорить, с немалым энтузиазмом, что программа может играть важную роль в реальном лечении различных болезней и нарушений. В статье в журнале Journal of Nervous and Mental Disease три знаменитых психиатра-исследователя написали, что «Элиза», при незначительной настройке, могла бы использоваться в качестве «терапевтического инструмента, широко доступного в психиатрических больницах и специализированных центрах, испытывающих нехватку врачей».

Благодаря «способностям современных и будущих компьютеров к разделению времени, несколько сотен пациентов могли бы одновременно пользоваться компьютерной системой, специально созданной для этой цели». В своей статье в журнале Natural History известный астрофизик Карл Саган выражал своё ничуть не меньшее восхищение потенциалом «Элизы». Он предвидел развитие «сети терапевтических компьютерных терминалов, чем-то напоминающих огромные телефонные будки, в которых всего за несколько долларов любой человек мог бы поговорить с внимательным, опытным и не указывающим правильное направление психотерапевтом».

В своей работе «Вычислительные машины и разум» Алан Тьюринг задавался вопросом: «Могут ли машины думать?» Он предложил простой эксперимент, позволявший оценить, действительно ли у компьютера есть интеллект. Изначально эксперимент носил название «имитационная игра», но потом приобрёл другое, всем известное название - тест Тьюринга.

В процессе тестирования «следователь» сидит за компьютерным терминалом в пустой комнате и участвует в переписке с двумя другими собеседниками, один из которых является человеком, а другой компьютером, лишь притворяющимся человеком. Тьюринг полагал, что если «следователь» окажется не в состоянии отличить компьютер от реального человека, то можно будет говорить о наличии у компьютера интеллекта. Способность выдавать правдоподобную последовательность слов будет свидетельствовать о появлении по-настоящему думающей машины.

Разговор с «Элизой» представлял собой по сути одну из разновидностей теста Тьюринга. Однако, как с удивлением обнаружил Вейценбаум, люди, «беседовавшие» с программой, совершенно не были заинтересованы в том, чтобы выносить рациональ¬ные и объективные суждения в отношении личности «Элизы». Они хотели верить, что «Элиза» представляет собой действительно думающую машину. Они хотели наградить «Элизу» человеческими качествами, даже зная, что она - всего лишь компьютерная программа, следующая простым и достаточно очевидным инструкциям. Как оказалось, тест Тьюринга во многом тестировал то, каким образом компьютеры мыслят в восприятии людей.

В своей статье в Journal of Nervous and Mental Disease три психиатра не просто предложили, чтобы «Элиза» служила заменой реальному доктору. Они начали по очереди, утверждать что психотерапевт по сути представляет собой разновидность компьютера: «Терапевт может рассматриваться как устройство принятия решения и информационный процессор, действующий на основании набора правил, чётко связанных как с краткосрочными, так и с долгосрочными целями».

Даже неуклюжее имитирование человека «Элизой» заставило людей думать о себе как об имитации компьютера. Такая реакция на программу встревожила Вейценбаума. Ему пришлось задать себе вопрос, который под-спудно занимал его на протяжении многих лет: «Что есть в компьютере такого, что заставляет человека думать о себе, как о машине?» .

Комментарии: