Дискриминация по уму: как интеллект стал оправданием расизма, тирании и насилия

МЕНЮ


Новости ИИ
Поиск

ТЕМЫ


Big data
Анализ социальных сетей
Беспилотные автомобили
БПЛА
Виртулаьная реальность
генетические алгоритмы
Головной мозг
городские сумасшедшие
дополненная реальность
ИИ в медицине
ИИ проекты
интернет вещей
искусственный интеллект
ИТ-гиганты
квантовые компьютеры
кибербезопасность
Кластеризация
Машинное обучение
Методы научного исследования
наука и образование
нейронные процессоры
нейронные сети
Нейронные сети: искусственные
Нейронные сети: реализация
новости ит
облачные вычисления
Поведение животных
Поисковые алгоритмы. Ранжирование
Психология
Работа памяти
Разработка ПО
распознавание образов
Распознавание речи
робототехника
Семинары
суперкомпьютеры
Теория хаоса
Теория эволюции
техническое зрение
Трансгуманизм
Угроза искусственного интеллекта
Чат-боты

АРХИВ


Апрель 2017
Март 2017
Февраль 2017
Январь 2017
Декабрь 2016
Ноябрь 2016
Октябрь 2016
Сентябрь 2016
Август 2016
Июль 2016
Июнь 2016
Май 2016
Апрель 2016
Март 2016
Февраль 2016
Январь 2016
0000

RSS


RSS новости
свиной грипп

Новостная лента форума ailab.ru

Интеллект тысячелетиями служил оправданием самых страшных явлений в истории — таких как колонизация, рабство, тирания и дискриминация, уверен философ и исследователь будущего интеллекта в Кембриджском университете Стивен Кейв. « Теории и практики» перевели его статью о том, как на основе умственных способностей веками строилась иерархическая лестница и почему ее новой ступенью стал страх человека перед искусственным разумом.

Я рос в Англии во второй половине XX века, в это время представление об интеллектуальных способностях постоянно расширялось. К ним стремились, их обсуждали и, что самое главное, их измеряли. Десятки тысяч одиннадцатилеток по всей стране собирались в разлинованных столами залах, чтобы пройти IQ-тест под названием «11-Plus». Результаты этого недолгого испытания определяли, кто попадет в гимназию, чтобы подготовиться к университету и получить престижную профессию, кому суждено учиться в техникуме и потом выполнять квалифицированную работу, а кто направится в среднюю общеобразовательную школу, где вызубрит основы и будет заниматься физическим трудом до конца своей жизни.

Когда я проходил тест, чтобы найти свое место в мире, идее того, что интеллект можно измерить как давление или рост, едва ли исполнилось сто лет. Но представление о том, что интеллект может определить положение человека в жизни, гораздо древнее. Оно красной нитью проходит через всю историю западной мысли, от философии Платона до политики премьер-министра Великобритании Терезы Мэй. Упоминание о  чьем-то  уме или его отсутствии никогда не было просто комментарием по поводу способностей человека. Это также и суждение о том, что человеку позволено делать. Другими словами, интеллект — это политическое понятие.

Иногда такое ранжирование разумно: нам не нужны глупые доктора, инженеры или правители. Но у этого явления есть обратная сторона. Уровень интеллекта — или его отсутствия — определяет не только то, что может делать человек, но часто и то, что другие могут делать с ним. Стоит вспомнить историю западного мира: те, кто считался недостаточно умным, вследствие этого суждения были колонизированы, порабощены, стерилизованы или убиты (и даже съедены, если мы берем в расчет животных). Это, правда, очень старая история. Но в XXI веке благодаря развитию искусственного интеллекта в ней наметился интересный поворот. Специалисты считают, что сегодняшние открытия в этой области неизбежно приведут к новым. Ученые мечутся между волнением и страхом, украшая свои посты в твиттере цитатами из «Терминатора». Чтобы понять, почему мы беспокоимся и чего боимся, сначала мы должны понять интеллект как политический концепт — и, в частности, долгую историю разума как логического обоснования господства.

Сам термин «интеллект» (intelligence) никогда не пользовался популярностью среди англоязычных философов. Также у него нет точного перевода на немецкий или древнегреческий — два других великих языка западной философии. Но это не значит, что философы им не интересовались. Напротив, они были на нем помешаны, точнее на отдельном его аспекте: на разуме, или рациональности. В политических и общественных обсуждениях термин «интеллект» сумел затмить своего старомодного родича только с развитием новой дисциплины — психологии, которая заявила о своих исключительных правах на его исследование. Хотя сегодня многие ученые выступают за более широкое понимание интеллекта, разум по-прежнему считается его основой. Поэтому, когда я говорю о роли интеллекта в истории, я имею в виду и этого его «предка».

История интеллекта начинается с Платона. Во всех своих работах он приписывает высокую ценность размышлениям, заявляя (устами Сократа), что неизученная жизнь не стоит того, чтобы ее прожить. Платон вышел из мира, погруженного в мифы и мистику, и пришел к новому — к тому, что правду о реальности можно установить с помощью разума. Отсюда он сделал вывод в своем «Государстве», что идеальный правитель должен быть «правителем-философом», поскольку только философ может расставить все по своим местам. Таким образом он выдвинул идею о том, что самый умный должен править всеми остальными — по принципу интеллектуальной меритократии.

Эта мысль была революционной для своего времени. Афины уже экспериментировали с демократией, властью людей, но там это касалось любого гражданина мужского пола, необязательно умного. В других странах правящие классы состояли из наследственной элиты (аристократия) или из тех, кто, как верили, получил божественные указания (теократия) или просто из сильнейших (тирания).

« В момент зарождения западной философии интеллект ассоциировался с европейским образованным мужчиной»

Новая идея Платона заинтересовала интеллектуалов, включая его ученика Аристотеля. Аристотель всегда был более практичным мыслителем, склонным к систематизации. Он использовал мысль о главенстве разума для установления того, что считал естественной общественной иерархией. В своем трактате «Политика» он объясняет: «Ведь властвование и подчинение не только необходимы, но и полезны, и прямо от рождения некоторые существа различаются [в том отношении, что одни из них как бы предназначены] к подчинению, другие — к властвованию». Правителя отличает наличие у него «рассудочного элемента». Чаще всего им обладают образованные мужчины, поэтому они, естественно, должны управлять женщинами — а также мужчинами, «чья деятельность заключается в применении физических сил» и которые «по своей природе рабы». На еще более низких ступенях стоят животные, которые настолько неразумны, что «для них предпочтительнее находиться в подчинении у человека».

© Dorothy

© Dorothy

Таким образом, в момент зарождения западной философии интеллект ассоциировался с европейским образованным мужчиной. Разум становится аргументом в пользу его права властвовать над женщинами, представителями более низких классов, нецивилизованными народами и животными. Если Платон доказывал превосходство разума и положил эту мысль в основу довольно неуклюжей утопии, всего лишь поколение спустя Аристотель представлял власть думающего мужчины как нечто очевидное и естественное.

Стоит ли говорить, что более двух тысяч лет спустя отправленный этими людьми поезд мысли все еще не сошел с рельсов. Австралийский философ и борец за охрану природы Вэл Пламвуд считала, что великие умы греческой философии выстроили ряд связанных дуализмов, которые и сегодня по-прежнему влияют на наше сознание. Противоположные категории, такие как умный/глупый, рациональный/эмоциональный и разум/тело, связаны прямо или косвенно с другими категориями: мужчина/женщина, цивилизованный/примитивный, человек/животное. Эти дуализмы и сами по себе являются оценочными, а также они подпадают под более широкий дуализм — доминирующий/подчиняющийся и хозяин/раб. Благодаря им отношения, основанные на доминации, например патриархат или рабство, считаются в порядке вещей.

Существует мнение, что западная философия в своем современном виде началась с закоренелого дуалиста Рене Декарта. В отличие от Аристотеля, он и не подумал выстраивать лестницу убывания интеллекта у животных. Познание, по его мнению, — это исключительно человеческий удел. Эта мысль — следствие более тысячи лет христианской теологии: она сделала интеллект собственностью души, божественной искрой, прибереженной только для счастливчиков, созданных по образу и подобию Божию. Декарт считал, что природа буквально безмозглая и поэтому лишена подлинной ценности, — эта теория узаконила притеснение других видов и избавила притеснителей от чувства вины.

Идея о том, что интеллект является определяющим показателем человечества, продолжила существовать и в эпоху Просвещения. Ее с энтузиазмом воспринял Иммануил Кант — возможно, самый влиятельный представитель моральной философии с древних времен. По Канту, моральные принципы присущи лишь разумным созданиям. Рациональных существ нужно называть «лица», и они являются «целями сами по себе». С другой стороны, нерациональные существа имеют «только относительную ценность как средства и называются поэтому вещами». Мы можем делать с ними, что захотим.

В соответствии с Кантом, разумное существо обладает бесконечным количеством достоинства, в то время как неразмышляющее и неразумное не имеет вообще никакого. Его аргументы более изощренные, но, в сущности, он приходит к тому же выводу, что и Аристотель: существуют хозяева от природы и рабы от природы, а интеллект — то, что их различает.

« В течение многих десятилетий официальная проверка интеллекта скорее усугубляла, чем облегчала положение женщин»

Эта мысль со временем развивалась и легла в основу логики колонизации. Приводился следующий аргумент: небелые народы недостаточно умны, поэтому им не хватает знаний, чтобы управлять собой и своими землями. Таким образом, действия колонизаторов были узаконены; это даже считалось долгом, «бременем белого человека» — уничтожить культуру и захватить территорию. К тому же, поскольку интеллект являлся определяющим фактором, а этим народам, по мнению колонизаторов, не хватало ума, они оказывались и в меньшей степени людьми. Считалось, что у них нет никаких моральных качеств, поэтому убийство и порабощение были совершенно в порядке нормы.

Та же логика применялась и по отношению к женщинам, якобы слишком непостоянным и сентиментальным для привилегий, доступных «рациональному человеку». Как пишет Джоанна Берк, историк Лондонского университета Биркбек, в Великобритании XIX века женщин закон защищал меньше, чем домашний скот. Возможно, тогда и не стоит удивляться, что в течение многих десятилетий официальная проверка интеллекта скорее усугубляла, чем облегчала положение женщин.

Сэра Фрэнсиса Гальтона считают основателем психометрики, «науки» измерения интеллекта. Его вдохновило «Происхождение видов» (1859), труд его кузена Чарльза Дарвина. Он заставил Гальтона поверить, что интеллектуальные способности являются наследственными и их можно повысить через селекционное скрещивание. Он решил найти способ, который позволит научно определять наиболее подходящих членов общества и поощрять их активное размножение друг с другом. Менее интеллектуально одаренных, в свою очередь, стоит отговаривать от размножения или даже предотвращать его ради блага вида в целом. Таким образом, евгеника и тесты на интеллектуальное развитие шли рука об руку. В следующие десятилетия многие женщины в Европе и Америке были принудительно стерилизованы после того, как показали низкие результаты на тестах: только в Калифорнии таких случаев было около 20 тысяч.

Интеллект использовался в качестве оправдания самых страшных актов варварства в истории. Но у господства разума всегда находились и критики. От Дэвида Юма до Фридриха Ницше, от Зигмунда Фрейда до постмодернистов — существует множество философских традиций, которые ставят под вопрос идею того, что мы действительно такие умные, как нам хотелось бы верить, и что интеллект — это высшая добродетель.

© Dorothy

© Dorothy

Интеллектуальная меритократия всегда была только одним из факторов социальной значимости, хотя и очень весомым. Поступление в определенные школы, доступ к определенным профессиям (таким как госслужба в Соединенном Королевстве) зависят от результатов тестов на уровень интеллекта, но в других областях акцент делают на других качествах, например на креативности и предпринимательской жилке. И хотя некоторые из нас надеются, что наши чиновники умны, мы не всегда спешим выбирать политиков, которые кажутся умнее других (по-прежнему показательно то, что даже такой популист, как Дональд Трамп, счел необходимым заявить по поводу своей администрации, что это «кабинет с самым высоким IQ из всех кабинетов, созванных до настоящего момента»).

Вместо того чтобы оспаривать интеллектуальную иерархию как таковую, многие критики сконцентрировались на атаке систем, которые позволяют белым мужчинам из элитных слоев общества находиться у власти. Экзамен «11-Plus», который я сдавал, — это интересный, неоднозначный пример такой системы. Он вводился для того, чтобы определить одаренных детей вне зависимости от социального класса или вероисповедания. На деле же хорошо сдавали экзамен в основном неплохо обеспеченные представители белого среднего класса — соответственно, результаты теста еще раз подтвердили их позицию в обществе и право на преимущества.

Поэтому, когда мы размышляем о том, как люди идеей интеллекта оправдывали привилегии и доминацию в течение более чем двух тысяч лет, удивительно ли, что неминуемая перспектива появления суперумных роботов навевает ужас?

Сценаристы (начиная с фильма «2001 год: Космическая одиссея» до «Терминатора») неоднократно фантазировали на тему восстания машин против нас. Теперь мы видим почему. Если мы привыкли верить, что власть в обществе должна принадлежать самому мозговитому, то, конечно, следует ожидать, что в эпоху умных роботов мы станем лишними и отправимся на самое дно. Если мы сжились с идеей, что более умные имеют право колонизировать менее умных, то, естественно, нас пугает перспектива порабощения собственными суперумными творениями. Если мы оправдываем свою власть и процветание такой добродетелью, как ум, то понятно, почему превосходящий наши возможности искусственный интеллект кажется нам угрозой.

« Самым большим риском остается природная глупость, а не искусственный интеллект»

Этот рассказ о привилегиях может объяснить, как отметила ученый и технолог Кейт Кроуфорд, почему неконтролируемый искусственный интеллект чаще всего пугает западных белых мужчин. Другие группы прошли через долгие годы гнета самоназначенных правителей и  по-прежнему борются против реальных притеснений. В то же время белые мужчины привыкли быть на вершине иерархической лестницы. Они потеряют больше всех в случае появления новых субъектов, превосходящих их в интеллектуальных способностях, которые так долго считались доказательством мужского превосходства.

Я не хочу сказать, что все наши переживания по поводу неконтролируемого искусственного интеллекта необоснованны. Существуют реальные риски, связанные с использованием продвинутого искусственного разума (так же как и огромные потенциальные выгоды). Но вряд ли в списке угроз для человечества первым номером идет притеснение роботами людей, которое можно было бы сопоставить, например, с тем, как австралийские аборигены притеснялись европейскими колонистами.

Скорее следовало бы побеспокоиться о том, что может сделать с искусственным интеллектом человек, чем о том, что ИИ может сделать сам по себе. Мы, люди, скорее настроим интеллектуальные системы друг против друга или станем слишком сильно зависеть от них. Как в басне об ученике чародея: если искусственный интеллект и причинит вред, то, вероятно, из-за того, что мы, руководствуясь благими намерениями, давали ему плохо продуманные команды, а не потому, что машины желают нас завоевать. Самым большим риском остается природная глупость, а не искусственный интеллект.

Интересно предположить, как мы смотрели бы на расцвет искусственного разума, если бы у нас были другие взгляды на интеллект. Платон верил, что философов надо будет упрашивать, чтобы они стали правителями, поскольку они от природы предпочитают господству над людьми размышления. В соответствии с другими традициями, особенно восточными, умный человек пренебрегает ловушкой власти, поскольку в ней ничего нет, кроме тщеславия, и удаляется от суеты и ежедневных проблем.

Представьте, если бы такой взгляд на жизнь был повсеместным: если бы все мы думали, что самые умные люди — не те, кто требует права на власть, а те, кто уходит медитировать в уединении, чтобы освободить себя от земных желаний, или если бы самыми умными были бы те, кто возвращается, чтобы нести мир и просвещение. Интересно, боялись бы мы тогда роботов, которые умнее нас?


Источник: theoryandpractice.ru