Помогать людям или заменять их? Как в Америке 1950-х создавали искусственный интеллект Фрагмент книги «Homo Roboticus? Люди и машины в поисках взаимопонимания»

МЕНЮ


Искусственный интеллект
Поиск
Регистрация на сайте
Помощь проекту

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


2017-10-11 04:15

ИИ теория

В конце июня издательство «Альпина нон-фикшн» при поддержке Политехнического музея выпустило книгу научного журналиста Джона Маркоффа «Homo Roboticus? Люди и машины в поисках взаимопонимания» о том, как и зачем с середины XX века математики, нейробиологи и программисты меняют мир, создавая «умные машины». В ней рассказывается о зарождении и развитии робототехники и программ искусственного интеллекта. С разрешения издательства «Медуза» публикует отрывок из книги. Перевод Вячеслава Ионова и Сергея Махарадзе.

Начало искусственному интеллекту как области исследовании? было положено во время летнеи? конференции 1956 года в Дартмутском колледже, где работал молодои? преподаватель математики Джон Маккарти. Маккарти родился в 1927 году в Бостоне в семье ирландского католика и литовскои? евреи?ки, активных членов Коммунистическои? партии США. Его родители были интеллектуалами, и мать не сомневалась, что ее дети смогут добиться всего, чего захотят. В 12 лет Маккарти наткнулся на книгу Эрика Темпла Белла «Творцы математики» (Men of Mathematics), которая помогла определиться с карьерои? многим лучшим и ярчаи?шим ученым эпохи, включая Фримена Даи?сона и Станислава Улама. В старших классах школы Маккарти считался математическим гением, а потому решил поступать только в Калифорнии?скии? технологическии? институт, где Темпл Белл был профессором. Впоследствии он называл это чистои? «самонадеянностью». В заявлении Маккарти обозначил свои планы однои? фразои?: «Я намерен стать профессором математики». Книга Белла дала ему реалистичное представление о выбранном пути. Маккарти считал, что главнои? наградои? математику является качество его исследовании?, и жаждал стать интеллектуалом, добившимся всего своими силами.

В Калифорнии?ском технологическом институте Маккарти был амбициозным студентом. Он сразу схватился за сложные расчеты и стал слушать одновременно несколько курсов, включая лекции по самолетостроению. На службу Маккарти призвали уже в конце вои?ны, поэтому его армеи?ская карьера была связана с канцелярскои? работои?, а не с участием в боевых деи?ствиях. Находясь недалеко от дома в Форт-Макартуре — в портовом городе Сан-Педро, штат Калифорния, он начал клерком, оформлявшим приказы о демобилизации, а потом стал заниматься присвоением звании? возвращавшимся с вои?ны солдатам. Затем Маккарти поступил в аспирантуру Принстона и не упустил случая познакомиться с математиком и физиком Джоном фон Неи?маном, которыи? сыграл важную роль в определении основнои? архитектуры современного компьютера.

В тот момент мысли об «искусственном интеллекте» уже бродили в голове Маккарти, но еще не оформились. Это произошло лишь полдесятилетия спустя во время летней конференции в Дартмуте в 1956 году. Первые наметки появились еще в аспирантуре, когда он участвовал в Хиксоновском симпозиуме по церебральным механизмам поведения в Калифорнийском технологическом институте. В то время еще не было программируемых компьютеров, но идея витала в воздухе. Алан Тьюринг, например, писал об этой возможности еще за год до того в надежде, что его услышат по обе стороны Атлантики. Маккарти думал об интеллекте как о математической абстракции, а не как о том, что можно воплотить в реальной машине (как предлагал Тьюринг). Это была идея создания «искусственного» аналога человеческого интеллекта, а не вариант клеточного автомата, которым позже будет заниматься фон Нейман. Маккарти сосредоточился на абстрактном аспекте интеллекта, который был способен взаимодействовать с окружающей средой. Когда он сказал об этом фон Нейману, тот воскликнул: «Напишите об этом!» Маккарти много размышлял об этой идее, но так ничего и не опубликовал. Годы спустя он выразит сожаление по поводу своего бездействия. Хотя диссертация Маккарти в Принстоне была посвящена дифференциальным уравнениям, он также интересовался логикой, и его вклад в область искусственного интеллекта стал результатом применения математической логики к рассуждениям на основе здравого смысла. Он приехал в Принстон на год позже Марвина Мински и обнаружил, что того тоже занимает идея искусственного интеллекта. В те времена, однако, не было компьютеров, которые позволили бы им развернуться, поэтому концепция оставалась абстракцией.

В аспирантуре Маккарти учился в одно время с Джоном Нэшом, математиком и будущим нобелевским лауреатом, прославленным в написаннои? в 1998 году Сильвиеи? Назар биографии «Блестящии? ум» (A Beautiful Mind). Аспиранты Принстона любили грубовато подшутить друг над другом. Маккарти, например, устроили падение кровати. Потом оказалось, что один из аспирантов был двои?ным агентом в играх, поддерживавшим Маккарти против Нэша и одновременно помогавшим Нэшу играть против Маккарти. Теория игр в то время была в моде, и Нэш впоследствии получил Нобелевскую премию по экономике за вклад в эту область.

Летом 1952 года Клод Шеннон, математик и инженер-электрик в Bell Labs, взял Маккарти и Мински к себе в качестве лаборантов. Известный как отец «теории информации», Шеннон создал в 1950-м простую шахматную машину и заинтересовался программами моделирования биологического роста, так называемыми «клеточными автоматами». Самой известной из них стала игра «Жизнь», изобретенная Джоном Конвеем в 1970 году.

Если Мински тогда больше занимала предстоящая свадьба, то Маккарти проводил все время в Bell Labs, работая с Шенноном над собранием статей по математике, которое тот назвал «Исследование автоматов» (Automata Studies). Слово «автоматы» не нравилось Маккарти, поскольку оно смещало фокус с конкретных аспектов искусственного интеллекта на эзотерические проблемы математики.

Четыре года спустя он нашел выход, дав начало новой области науки, которая сегодня, через шесть десятилетий, преобразует мир. Маккарти выбрал термин «искусственный интеллект», который, на его взгляд, позволял «поднять идею как флаг» и задать направление Дартмутскому летнему проекту. К сожалению, термин стал ассоциироваться с заменой человеческого разума машинным, что углубляло разрыв между исследователями, занимавшимися искусственным интеллектом и усилением интеллекта. Крещение нового названия произошло в 1956 году во время организованного Маккарти мероприятия — Дартмутского летнего исследовательского проекта по искусственному интеллекту, финансирование которого осуществлял Фонд Рокфеллера. Это было знаковое событие. Предлагались и другие варианты названия для новой дисциплины: кибернетика, исследование автоматов, комплексная обработка информации и машинный интеллект.

Маккарти хотел избежать термина «кибернетика», поскольку считал его изобретателя Норберта Винера напыщенным занудой и предпочитал не связываться с ним. Он также не принимал термин «автомат», который казался далеким от интеллекта. Существовал еще один аспект, связанный с термином «искусственный интеллект». Много лет спустя в рецензии на книгу, касающейся такой академической концепции, как «социальное конструирование технологии», Маккарти постарался дистанцировать искусственный интеллект от его антропоцентрических корней. Он настаивал, что эта область не имеет отношения к поведению человека.

В программе Дартмутской конференции не было упоминаний об исследовании поведения человека, «поскольку [Маккарти] не считал это уместным». По его мнению, искусственный интеллект не имел никаких связей с поведением человека, кроме разве что намека на выполнение свойственных человеку задач. Из всех участников конференции поведением человека занимались только Аллен Ньюэлл и Герберт Саймон из Института Карнеги, уже известные исследователи, соединившие социологию с когнитивистикой. Через много лет подход, предложенный участниками Дартмутской конференции, получит обозначение GOFAI — «старый добрый искусственный интеллект», то есть подход, ориентированный на приближение к человеческому уровню интеллекта на основе использования логики и набора эвристических правил решения проблем.

В подготовке летней конференции участвовала IBM, в 1950-х уже бывшая крупнейшим производителем компьютеров. Маккарти и Мински провели лето 1955 года в лаборатории компании, создавшей ламповый мейнфрейм IBM 701 (их было выпущено всего 19 единиц). После конференции ряд исследователей из IBM вели разработки в области искусственного интеллекта, но в 1959-м производитель компьютеров закрыл это направление. По некоторым свидетельствам, компьютерный гигант опасался, что его машины будут задействованы в технологиях, уничтожающих рабочие места. Тогдашний глава компании Томас Уотсон-младший принимал участие в общенациональной дискуссии о роли и последствиях применения компьютеров в сфере автоматизации и не хотел, чтобы его компания ассоциировалась с массовой ликвидацией рабочих мест. Маккарти позже назвал это «приступом тупости» и «диверсией».


В эти первые годы Маккарти и Мински были практически неразлучны — Маккарти даже сопровождал Мински во время его знакомства с родителями будущей жены. Однако их подходы к созданию искусственного интеллекта все больше расходились. В аспирантуре Мински занимался исследованием нейронных сетей. Со временем он стал склоняться к тому, что корни интеллекта — в опыте людей. В отличие от него, Маккарти всегда искал формальные логико-математические пути к моделированию разума человека.

Так или иначе, несмотря на первоначальные трудности, искусственный интеллект оставался сферой коллективной работы и находился в руках исследователей с привилегированным доступом к ревностно охраняемым компьютерам размером с комнату. Как вспоминал Маккарти, Лаборатория искусственного интеллекта в Массачусетском технологическом институте появилась в 1958-м после того, как туда пришли он и Мински. Как-то Маккарти, встретив Мински в коридоре, сказал: «Думаю, нам нужен проект в области искусственного интеллекта». Мински ответил, что это хорошая идея. Тут с ними поравнялся Джером Визнер, тогда руководитель Лаборатории электроники.

Маккарти выпалил: «Мы с Марвином хотим открыть исследования по искусственному интеллекту».

«Так что вам нужно?» — спросил Визнер.

Маккарти не раздумывая сказал: «Нам требуются помещение, секретарь, перфоратор и два программиста».

На это Визнер ответил: «А шесть аспирантов в придачу возьмете?»

Оказалось, что лучшего момента для такой просьбы нельзя было и придумать. Массачусетский технологический институт как раз получил крупный правительственный грант «для дальнейшего совершенствования», но никто в точности не знал, что понимать под «совершенствованием». Грант в то время использовался для поддержки шести аспирантов-математиков, но Визнер не представлял, что делать дальше. Маккарти и Мински стали для него удачной находкой.

Грант предоставили весной 1958 года сразу после запуска советского спутника. Федеральное правительство США спохватилось и стало щедро финансировать исследовательские работы в университетах. Считалось, что широкая поддержка науки пойдет на пользу военным разработкам, и в тот год президент Эйзенхауэр учредил Агентство по перспективным исследовательским проектам (DARPA), чтобы избежать технологических сюрпризов в будущем.

Счастливая встреча этой троицы имела практически неоценимое значение для всего мира. Некоторые из «шести аспирантов» были связаны с Клубом любителей моделей железных дорог, ортодоксальной группой будущих инженеров, которых компьютеры притягивали как магнит. Идеалы этого клуба дали начало тому, что стало «культурой программистов-фанатиков», которые больше всего ценили свободу обмена информацией. Маккарти способствовал распространению их этики после ухода из Массачусетского технологического института в 1962 году и создания конкурирующей лаборатории в Стэнфордском университете. В конечном итоге культура программистов-фанатиков породила такие социальные инициативы, как программное обеспечение с открытым кодом, организация Creative Commons и сетевой нейтралитет. Еще в Массачусетском технологическом институте Маккарти в поисках более эффективного пути исследования искусственного интеллекта предложил использовать компьютер в режиме разделения времени и разработал язык программирования Lisp. Он быстро понял, что искусственный интеллект на определенной стадии развития должен стать интерактивным и что логично вести разработку на компьютерной системе, с которой множество пользователей работают одновременно, а не поочередно, каждый раз заказывая машинное время.

Когда в Массачусетском технологическом институте решили провести опрос для выяснения разумности создания системы с разделением времени вместо того, чтобы сразу реализовать предложение Маккарти, тот решил переехать на запад США. Позже он с обидой говорил, что спрашивать сотрудников университета и персонал об отношении к работе компьютера в режиме разделения времени — все равно что выяснять мнение землекопов о полезности парового экскаватора.

Маккарти полностью принял контркультуру Западного побережья. Он давно вышел из Коммунистической партии, но все еще был за левых и вскоре примкнул к настроенному против истеблишмента сообществу поблизости от Стэнфордского университета. Он отрастил волосы, стал носить повязку на голове и превратился в активного участника Свободного университета, который возник в средней части полуострова Сан-Франциско. Только после того, как Советский Союз подавил чешское восстание 1968 года, Маккарти окончательно разочаровался в социализме. Однажды, когда он рассуждал о мудрости ненасилия на форуме Свободного университета, один из радикалов пригрозил убить его. Это заставило Маккарти перейти на сторону правых и зарегистрироваться в Республиканской партии.

На свою карьеру Маккарти не мог пожаловаться. Должность профессора Стэнфордского университета была лицензией на охоту за финансированием, и по пути в Стэнфорд он завернул к своему другу Ликлайдеру, который с 1962 года возглавлял Отделение технологий обработки информации ARPA. Они вместе работали над первыми идеями по разделению времени, и именно Ликлайдер финансировал амбициозную программу по их реализации в Массачусетском технологическом институте после перехода Маккарти в Стэнфорд. Впоследствии Маккарти говори, что никогда бы не ушел, если бы знал, что Ликлайдер будет так поддерживать идеи разделения времени.

На Западном побережье почти не было бюрократических препон, и Маккарти быстро создал Лабораторию искусственного интеллекта в Стэнфорде. Ему удалось получить компьютер Digital Equipment Corporation и найти для него место в Лаборатории постоянного тока, в здании и на земле, подаренной Стэнфорду GTE, после того как эта телекоммуникационная компания отказалась от плана организации исследовательской лаборатории на Западном побережье.

Стэнфордская лаборатория искусственного интеллекта быстро стала раем для программистов-фанатиков. Умные молодые разработчики, такие как Стив «Слаг» Рассел и Уитфилд Диффи, последовали за Маккарти на Запад, и за следующее полтора десятилетия через лабораторию прошло великое множество инженеров и программистов. Несмотря на то что Маккарти стал политически более консервативным, атмосфера контркультуры в лаборатории не исчезла. И Стив Джобс, и Стив Возняк сохранили память о посещении в подростковом возрасте Стэнфордской лаборатории. SAIL стала кузницей выдающихся компьютерщиков и новых отраслей.

Именно SAIL дала старт разработкам в области машинного зрения и робототехники, лабораторию по праву считают колыбелью распознавания речи. В свое время Маккарти предложил Раджу Редди понимание речи в качестве темы для диссертации, и Редди стал ведущим исследователем в этой области. Над мобильными роботами в SAIL параллельно с проектом Shakey в Стэнфордском исследовательском институте работали Ханс Моравек, а затем Родни Брукс, которые стали пионерами в области робототехники в Университете Карнеги — Меллона и Массачусетском технологическом институте соответственно.

Это был первый золотой век искусственного интеллекта с исследованиями возможностей понимания естественного языка, компьютерной музыкой, экспертными системами и видеоиграми типа Spacewar. Психиатр Кеннет Колби даже работал с улучшенной версией онлайновой диалоговой системы Eliza, разработанной Джозефом Вейценбаумом в Массачусетском технологическом институте. Колби смоделировал страдающую параноидальным психозом личность, которую назвали «Пэрри». Редди, которому уже доводилось работать с более ранней моделью мейнфрейма IBM 650, вспоминал, что компания брала $1000 за час доступа к машине. Сейчас он «владел» в 100 раз более быстрым компьютером каждый день с 20:00 до 08:00 следующего дня. «Мне казалось, что я умер и попал на небеса», — говорил он.

В лаборатории Маккарти родился целый ряд побочных областей исследования, пионером одной из которых, инженерии знаний, был специалист по вычислительной технике Эд Фейгенбаум. Его первый проект Dendral, начатый в 1965 году, оказал очень большое влияние на развитие экспертных систем, предназначенных для сбора и организации знаний. Система Dendral первоначально создавалась, чтобы помочь химикам идентифицировать неизвестные органические молекулы. Это был общий проект компьютерщиков Фейгенбаума и Брюса Бьюкенена и двух суперзвезд из других областей науки — молекулярного биолога Джошуа Ледерберга и изобретателя противозачаточной таблетки химика Карла Джерасси. Его цель заключалась в автоматизации работы высококвалифицированного специалиста по органической химии.

Бьюкенен вспоминал, что у Ледерберга был контракт с NASA, связанный с поиском жизни на Марсе. Ответ должна была дать масс-спектрометрия: «Фактически система Dendral создавалась для очень конкретного применения, а именно полета на Марс, отбора проб и поиска органических соединений». И действительно, работу над проектом Dendral начали в 1965 году после ожесточенных споров в NASA о необходимости пилотируемых полетов на Луну. На заре освоения космического пространства в агентстве остро стоял вопрос, следует ли включать людей в контур управления. Сегодня, несколько десятилетий спустя, этот спор разгорелся вновь, но уже в связи с полетами на Марс.

Первоначальный оптимизм в отношении искусственного интеллекта, который господствовал в SAIL, не иссякал до конца 1960-х. Ныне это история, но Моравек, который как аспирант жил тогда в мансарде SAIL, годы спустя вспоминал, что Маккарти, излагая свое предложение ARPA, говорил о возможности создать «машину с искусственным интеллектом» для космоса в течение десятилетия. Полвека спустя это кажется нереальным и даже наивным, но Маккарти уже в момент зарождения своего интереса в конце 1940-х, еще до появления компьютеров, твердо решил создать машины с такими же, как у человека, возможностями.

В самом деле, в первое десятилетие существования отрасли оптимизм по поводу искусственного интеллекта был огромен. Это явно просматривается в материалах Дартмутской конференции 1956 года. В них говорится: «Исследования должны строиться на предпосылке, что любой аспект обучения или интеллекта принципиально поддается описанию с точностью, достаточной для его воспроизведения машиной. Надо выяснить, как научить машины использовать язык, оперировать абстракциями и понятиями, решать такие проблемы, которые сейчас под силу только человеку, и совершенствоваться. Мы полагаем, что в одной или нескольких из этих областей можно добиться значительного прогресса, если в течение лета над ними поработает тщательно отобранная группа ученых».

Мински полностью разделял оптимизм Маккарти и вскоре поручил одному из аспирантов заниматься проблемой машинного зрения, полагая, что ее можно решить в ходе летней практики. «Наша конечная цель — создать программы, которые учатся на собственном опыте так же эффективно, как люди», — писал Маккарти.

Это намерение и легло в основу лаборатории, ставшей раем для исследователей, которые хотели наделить машину всеми способностями человека. В то же время оно вызвало серьезные культурные противоречия, расколовшие компьютерный мир на два лагеря — сообщество, ориентированное на замену человека, и сообщество, намеренное использовать те же технологии для усиления интеллекта человека. Как следствие, в последние полвека внутреннее противоборство «искусственный интеллект — усиление интеллекта» было неотделимо от компьютерной науки на фоне появления все более эффективных технологий преобразования мира.

Можно, конечно, смотреть на искусственный интеллект и усиление интеллекта как на две стороны одной медали. Однако существует фундаментальное различие между созданием технологии, приносящей пользу человечеству, и созданием технологии в качестве самоцели. Сегодня это различие проявляется в том, для чего предназначены все более мощные компьютеры, программное обеспечение и роботы, — чтобы помогать людям или чтобы заменять их. Некоторые исследователи, прошедшие через SAIL, с самого начала выступали против искусственного интеллекта в стиле Маккарти. Алан Кей, выдвинувший концепцию современного персонального компьютера в Xerox в 1970-х годах, провел год в SAIL и впоследствии говорил, что это был один из наименее продуктивных периодов в его карьере. К тому времени он уже сформулировал идею Dynabook — «персонального компьютера для детей всех возрастов», которая дала начало целому поколению компьютеров, но так и остался чужим для культуры SAIL. Впрочем, для многих в SAIL будущее было очевидным: машины вскоре сравняются с людьми и даже заменят их. Машины уже были классными, а в будущем они должны превзойти по способностям своих создателей.


Источник: meduza.io

Комментарии: