Тобиас Рис: «Зачем технологическим компаниям нужны философы и как я убедил Google их нанять».

Я провел лучшую половину последних двух лет, пытаясь убедить такие компании, как Google, Facebook, Microsoft, DeepMind и OpenAI, что им нужно нанять философов.

Мои коллеги и я—небольшой коллектив ученых, которые составляют программу превращения человека в Лос-Анджелесе мозгового называют Берггрюна институт—думаю, что исследования, проведенные этими компаниями подрывает само понятие человека, что мы—на Западе, в частности—приняли на веру на протяжении почти половины тысячелетия.

Но дело не только в этом. Эти компании помогли создать реальность, в которой мы больше не можем ориентироваться со старым пониманием того, что значит быть человеком .

Нам нужны новые-для нас самих, чтобы мы могли ориентироваться и регулировать новые миры, в которых мы живем, но также и для инженеров, которые создают технические продукты, инструменты и платформы, чтобы они могли жить в соответствии с философскими ставками своей работы.

Чтобы сделать это возможным, нам нужны философы и художники, работающие вместе с инженерами по компьютерам и программному обеспечению.

Что поставлено на карту

До сравнительно недавнего времени мы на современном Западе знали, что значит “быть человеком".”

Мы знали, что у нас есть то, чего не было ни у кого и ни у чего другого: интеллект .

Мы знали, что наш потенциал думать, удивляться, познавать делает нас исключительными и отделяет от остального творения. Согласно этой теории, мы, люди, были больше, чем просто еще одно животное. И мы были гораздо больше, чем просто машина.

В то время как мы обладали интеллектом, животные обладали только инстинктом, а машины-простыми механизмами.

Мы также знали, что существует непреодолимая разница между естественными и искусственными вещами, созданными человеком, между организмами и машинами, а также между живыми, чувствующими и неживыми или неразумными вещами. Мы знали, что только естественные живые существа—то есть организмы—могут чувствовать, воспринимать и мыслить.

Мы знали все это с непоколебимой уверенностью—пока не узнали лучше.

Сегодня ни одно из этих различий—ни концепция человека, которому они помогли стабилизировать—не имеет такой несомненной силы. И эта потеря уверенности во многом связана с развитием искусственного интеллекта. (Это также имеет отношение ко многим другим вещам, таким как микробиомные исследования и изменение климата, но в этой статье я собираюсь сосредоточиться на ИИ).

Иду вглубь

Возьмем , к примеру, глубокое обучение, при котором машины, наделенные тысячами слоев нейронов, способны учиться и запоминать. Это позволяет машине рассуждать и принимать решения .

Учитывая способности этих нейрональных машин, кажется не очень правдоподобным предполагать, что мы, люди, разумны, в то время как машины-нет. Или что только живые существа могут быть разумными и могут думать, исследовать и понимать. Или что существует категориальное различие между естественными и искусственными вещами.

Напротив, кажется, что существует непрерывность между естественным и искусственным, между людьми и машинами.

Отдел философии и искусств ... для Google

Как совершенно ясно из этих наблюдений, относительно недавнее появление ИИ - это далеко идущее философское событие. А лаборатории ИИ и технологические компании - это наши самые мощные философские лаборатории. Это мощные экспериментальные пространства, в рамках которых люди создают новые представления о человеке и окружающем мире.

В таких местах, как Google, Facebook, Microsoft и OpenAI, инженеры разрабатывают радикально новые понятия о том, что значит быть человеком, жить своей жизнью и жить вместе.

Подавляющее большинство современных исследований ИИ проводится в компаниях. Проблема в том, что большинство людей, возглавляющих эти компании, не знают, что они радикально переосмысливают наше определение того, что значит быть человеком. Они считают себя просто людьми, которые работают в технологических компаниях.

Одна из главных амбиций моей работы-это изменить это. Я хочу, чтобы эти лаборатории и компании осознали свою огромную философскую ответственность: самосознательный дизайн новых возможностей быть человеком и жить вместе.

Вот почему мои коллеги и я разместили философов и художников в таких местах, как Google.

Позвольте мне подчеркнуть, что в то время как мы работаем с компаниями, цель нашей работы заключается не в том, чтобы помочь big tech разработать какую-то новую маркетинговую стратегию: наша цель-не предоставлять философские и художественные средства для корпоративных целей.

Скорее, наша цель состоит в том, чтобы вовлечь крупнейшие компании ИИ в философский и художественный проект огромного масштаба, в экспериментальный поиск и формулирование того, что означает философски Быть человеком в нашем современном мире.

Урок истории

Современная концепция человека—концепция, которую мы до недавнего времени считали само собой разумеющейся—впервые появилась в Европе в 1630-е гг. Это было время, когда все больше и больше сообщений о неевропейских формах жизни поступали в Европу, заставляя философов задаваться вопросом, Что общего у всех этих людей.

Ответ, который они постепенно придумали, принял форму двух дифференциаций:

С одной стороны, они утверждали, что люди-это больше, чем просто природа (больше, чем животные и растения). А с другой стороны, утверждали они, люди-это нечто иное (или качественно отличное) от обычных машин .

Критерием дифференциации был интеллект: у людей он есть, или так говорят, а у природы и машин-нет.

В то время эти две дифференциации служили двум мощным целям: утверждать, что все люди определяются интеллектом—способностью думать, исследовать, размышлять и знать—было самым мощным инструментом против необоснованного авторитета духовенства.

А утверждение, что природа, в отличие от человека, лишена разума, позволило философам раннего Нового времени освободить человека от космоса (частью которого они были до тех пор) и свести природу из метафизического окружения, организованного божественными законами, к физической материи, организованной в терминах механизмов.

Трудно переоценить то значение, которое эти две дифференциации (больше, чем природа/другие, чем машины) имели для нашего современного опыта самости и окружающего нас мира.

Почти вся лексика, которую мы определили как специфически человеческую—Искусство, Культура, Общество, история, политика-молчаливо предлагает больше / другое:

Искусство и культура-это противоположности природы. Общество и политика-это пространство действия и организации, которое открывается, когда люди покидают статус naturalis, или животного государства.

История-это исключительно человеческая сфера, состоящая из последовательных слоев человеческого действия. 

Где (и почему) наше определение человека подводит нас

Это было где—то около 2013 года, когда я впервые осознал, что современная концепция человека—опять же, та самая концепция, которая организовала наше чувство себя и наш опыт реальности-подводит нас.

Возьмите микробиом, который становится все более популярным в научных, медицинских и оздоровительных кругах в последние несколько лет. Нет ни одной системы органов, которая не зависела бы от микробных метаболитов. Большинство нейромедиаторов в нашем мозгу вырабатываются бактериями, живущими в наших кишках. Никто не может сказать, где заканчивается человек и начинается его микробиом .

Или возьмем ИИ. Как только исследователям ИИ удалось построить машины, наделенные нейронными сетями, которые учатся, которые запоминают, которые думают и рассуждают, предположение о непреодолимом различии между людьми и машинами—между интеллектом и механизмом, между живым и неживым—стало несостоятельным.

Казалось очевидным, что мы не можем продолжать жить концепциями, которые, как мы знаем, являются одновременно несостоятельными и разрушительными для планеты. Но больше всего меня интересовал вопрос, что со всем этим делать.

Можем ли мы заново изобрести концепцию человека?

Этот вопрос беспокоил меня долгое время, пока я не понял, что такие области, как исследования ИИ и микробиома или синтетическая биология, не только подрывают исторический путь нашего мышления о человеке—они также открывают новые возможности для понимания мира.

Внезапно до меня дошло, что я могу рассматривать каждую из этих областей, не только ИИ и микробиом, но также синтетическую биологию, биогеохимию и другие, как если бы они были своего рода философской лабораторией для повторного артикулирования нашей реальности.

Разве ИИ, разрушая ранее исключительную связь между человеком и интеллектом, не открывает совершенно новые возможности понимания того, как устроен мир и как люди вписываются в этот мир?

Интеллект теперь уже не является исключительно человеческим свойством, но чем-то таким, чем обладают также Животные и машины.

Устанавливая континуум между естественным и искусственным, исследование ИИ предлагает нам думать о машинах как о естественных, а об инженерии-как о своего рода естественной (то есть биологической) практике.

От несчастного случая до проектирования

Мы живем в эпоху главного, наиболее далеко идущего философского события: радикального переосмысления того, что значит быть человеком, и отношений между человеком, природой и технологией.

Однако в настоящее время никто по-настоящему официально не говорит об этом философском качестве техники. Следовательно, никто не обращает на это внимания, с неизбежным следствием того, что широкое переосмысление человеческого разворачивается вокруг нас случайным, совершенно бессознательным образом.

Разве мы не должны попытаться изменить это?

Когда я поделился своим энтузиазмом с моими коллегами в академических кругах, я обнаружил, что то, что меня волновало, было невыносимой провокацией для многих других.

Мое предположение о том, что вопрос о человеке мигрировал в области естественных наук и техники—то есть в области, не связанные с традиционным изучением человека и человечества вообще—было воспринято как угроза для ученых в области искусства. Если люди больше не являются чем-то большим, чем природа или машины, то для чего вообще нужны искусства?

Мое настойчивое утверждение, что лучший способ защитить человека-это заново изобрести его, было отвергнуто.

Но едва ли я предлагал отказаться от философии или искусства. Скорее, я хочу привлечь внимание к тому, как такие области, как ИИ (или микробиомные исследования или синтетическая биология), на самом деле являются философскими областями.

Но проблема была не только в искусстве: большинство инженеров, с которыми я разговаривал, были слишком заняты тем, что были инженерами. Они были полностью поглощены своими исследовательскими вопросами и проявляли мало интереса к тому, что я отчаянно и неуклюже называл философскими целями их работы.

Когда образование является частью проблемы

Я вступила в один из самых больших кризисов своей взрослой жизни: мне пришлось признать, что университет—место, которое я любила, любила, называла домом—был частью проблемы, а не решением.

Повторное изобретение человека в терминах философии, искусства и инженерии не могло произойти, по крайней мере сейчас в академии, как мы ее знаем. В 2016 году я решил отказаться от своей кафедры и покинуть университет. Чуть больше года спустя, как назло, инвестор и основатель Института Берггруэн Николас Берггруэн предложил мне возможность построить небольшую экспериментальную программу по современным преобразованиям человека, которая позволила бы мне проверить свои идеи.

философия + искусство + инженерия

Весной 2018 года я начал звонить исследователям в области ИИ и биотехнологий и предложил им нанять философов и художников для работы вместе со своими инженерами.

Я объяснил со всем своим энтузиазмом, что лаборатории ИИ и компании-это непризнанные, но самые мощные и катастрофические философские лаборатории, в которых придумываются новые концепции бытия человека, политики, понимания природы, понимания и применения технологии.

Я сказал своим собеседникам, что их работа находится в самом центре огромного философского события, имеющего такие же исторические пропорции, как Ренессанс или научная революция.

Я звонил, следил, навещал-и надеялся, что мой энтузиазм будет заразительным и поможет открыть дверь.

Сегодня у нас есть философские и художественные команды в Element AI, Facebook и Google, а также в лабораториях AI в MIT, Беркли и Стэнфорде. Наши исследователи регулярно общаются с DeepMind, OpenAI и Microsoft.

И это только начало.

Разучивающееся

Моя работа за последние два года привела меня к выводу, что эти исследовательские и кооперационные платформы, которые мне посчастливилось построить в Институте Берггруена, могут быть только первым шагом в гораздо более крупном процессе.

То, что нам сейчас нужно, - это совершенно новая модель образовательного учреждения, которая может дать новый вид практики.

Нам нужна рабочая сила, которая думает по-другому и может понять инженерию, от ИИ до микробиомных исследований, синтетической биологии, геоинженерии и многих других областей—как философские и художественные практики, которые непрерывно изобретают человека заново.

Почти каждый месяц вы, вероятно, будете читать о еще одном миллиардном пожертвовании для новой технической школы. С одной стороны, в этом нет ничего плохого—я согласен, что нам всегда нужны лучшие, умнее, технологии.

С другой стороны, эти технические школы, как правило, воспроизводят старое разделение труда между факультетом искусств и факультетами науки и техники. То есть они склонны понимать технологию как просто технологию, а не как философскую и художественную область, которой она является.

Нам нужны не столько технические школы, сколько институты, объединяющие философию, искусство и технологию в единую интегрированную учебную программу.

Нам нужна школа, сочетающая философию, искусство и инженерию, которая может создать рабочую силу будущего—как современное движение Баухауза, сосредоточенное не только на архитектуре, но и на технологии.

Если мы не сможем принять эти различия сегодня, и если мы не признаем, что происходят радикально новые вещи, и не признаем радикально новые возможности и обязанности, мы рискуем оставить определение мира, в котором мы живем, консервативным силам, которые упорно продолжают пытаться строить наш изменяющийся мир в терминах старого.

И это определенный рецепт катастрофы.

Источник: qz.com

Комментарии: