Марк Цукерберг и Юваль Ной Харари обсудили будущее технологий

Основатель и глава Facebook Марк Цукерберг провел дискуссию о будущем технологий в обществе с израильским историком, автором международного бестселлера "Sapiens: Краткая история человечества" Ювалем Ноем Харари.

Видеозапись разговора обнародовала пресс-служба Facebook.

Цукерберг и Харари обсуждали, связывает ли Интернет общество или же, наоборот, разделяет; пути развития искусственного интеллекта; как алгоритмы будут продолжать влиять на жизнь людей; а также почему так важно не хранить конфиденциальные данные в странах, где нет верховенства права и где правительства могут принудительно получить к ним доступ.

#Буквы выделили основные тезисы из этой занимательной дискуссии.

О ПРОГРЕССЕ, ОБЪЕДИНЕНИИ ЛЮДЕЙ И ГАРМОНИИ

В ходе разговора Юваль Ной Харари отметил, что в последнее время человечество стало в значительной степени больше связано. В то же время такие связи не означают гармонию.

"Если вы посмотрите на длительный период истории, то становится очевидным, что человечество становится все более и более связанным. Если тысячи лет тому назад планета Земля была миром множества изолированных областей, почти не связанных между собой, то постепенно люди собирались вместе и становились все более и более связанными, пока мы не достигли того состояния, когда весь мир впервые стал единой исторической, экономической и культурной единицей. Но связь не обязательно означает гармонию. Люди, с которыми мы чаще всего боремся, - это члены нашей семьи, соседи и друзья. Так что на самом деле вопрос в том, говорим ли мы о соединении людей или о гармонизации людей? Соединение людей может привести к множеству конфликтов, и когда вы смотрите на мир сегодня, вы видите эту двойственность… Итак, как осмыслить этот мир, который больше связан, чем когда-либо, но в то же время строит больше стен, чем когда-либо прежде", - подчеркнул историк.

Цукерберг, в свою очередь, выразил мнение, что человечеству нужны связи для решения ключевых проблем (например, изменения климата, борьбы с болезнями) и реализации возможностей (распространения процветания, мира, научного прогресса).

"В 21-м веке, чтобы реализовать самые большие возможности и решить проблемы, с которыми сталкивается человечество, нам действительно нужно быть в состоянии собраться вместе и сделать мир более связанным. Но в то же время это работает только тогда, когда мы, как отдельные личности, удовлетворяем наши экономические, социальные и духовные потребности… Одна из важных вещей, которые, как мне кажется, дает Интернет, - это чтобы люди могли общаться с группами людей, которые разделяют их реальные ценности и интересы, и это не всегда было так. До Интернета вы были привязаны к своему физическому местоположению, и я вспоминаю, что когда я рос – я вырос в городе с населением около 10 тысяч человек, там было много разных клубов и занятий. Поэтому я вырос, как и многие другие дети, играя в бейсбол Малой лиги… И реальность была такова, что в моем городе не было никого, кто бы занимался программированием, поэтому у меня не было группы или клуба, где я мог бы это делать. Так продолжалось до тех пор, пока я не пошел в школу-интернат, а затем в колледж, где действительно смог встретиться с людьми, которые занимались тем же, что и я. И теперь я думаю, что с приходом Интернета положение дел начинает меняться, и теперь у вас есть возможность не просто привязываться к вашему физическому местоположению, но и находить в Интернете людей, которые имеют больше совместных интересов, относятся к определенным субкультурам и группам", - заявил он.

О РЕАЛЬНОЙ ЖИЗНИ И ИНТЕРНЕТЕ

Цукерберг при этом выразил мнение, что многие люди в современном мире "еще не нашли свое новое сообщество" и "чувствуют себя потерянными".

На это Харари парировал, что интернет-сообщества "все еще не способны заменить физические сообщества".

"Частью логики традиционных сообществ было то, что вы должны научиться ладить с людьми, которые вам, возможно, не нравятся, и вы должны разработать социальные механизмы, как это сделать. Что касается онлайн-сообществ, я считаю, что они внедрили некоторые действительно замечательные новшества для людей, но они также не дают нам опыта делать эти сложные, но важные вещи (умение находить язык с другими людьми в реальной жизни, - ред.)", - подчеркнул он.

По словам историка, один из ключевых вопросов состоит в том, что на самом деле Интернет и соцсети (в том числе Facebook) делают с людьми: объединяют или наоборот разобщают.

"Да, и я определенно не хочу утверждать, что онлайн-сообщества могут заменить все, что делали физические сообщества… Возможно, первоначальная организация людей может происходить онлайн, но они в дальнейшем собираются вместе физически, потому что это действительно важно для отношений, потому что мы физические существа, верно?" – заявил, комментируя это, глава Facebook.

О ГЛОБАЛЬНОМ СОТРУДНИЧЕСТВЕ И ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ

Харари выразил уверенность, что сейчас человечеству как никогда необходимо глобальное сотрудничество для решения беспрецедентных проблем.

"Нам нужно глобальное сотрудничество как никогда, потому что мы сталкиваемся с беспрецедентными глобальными проблемами. У нас недавно был День Земли, и мы не можем решать проблемы окружающей среды, изменения климата никаким другим способом, кроме как посредством глобального сотрудничества. Это же касается и возможного сбоя, вызванного новыми технологиями, такими как искусственный интеллект. Нам нужно найти механизм для глобального сотрудничества по таким вопросам, как, например, предотвращение гонки вооружений с использованием ИИ, предотвращение попыток разных стран создать автономные системы оружия, роботов-убийц… Если у нас нет глобального сотрудничества, мы не сможем остановить это, потому что каждая страна скажет: "Ну, мы не хотим производить робота-убийцу – это плохая идея, но мы не можем позволить нашим конкурентам сделать это", - рассказал Харари.

По словам историка, это же касается и влияния искусственного интеллекта на экономическую сферу.

"Точно так же обстоят дела, если мы говорим о потенциальных сдвигах на рынке труда и в экономике, вызванных искусственным интеллектом и автоматизацией. Совершенно очевидно, что в будущем будут рабочие места, но будут ли они равномерно распределены между различными частями мира? Одним из потенциальных результатов революции ИИ может быть концентрация огромного богатства в одной части мира и полное банкротство в других частях. В Калифорнии будет много новых рабочих мест для разработчиков программного обеспечения, но, возможно, не будет рабочих мест для работников текстильной промышленности и водителей грузовиков в Гондурасе и Мексике. Так что они будут делать? Если мы не найдем решения на глобальном уровне, такого как создание мировой системы безопасности для защиты людей от потрясений, вызванных развитием ИИ, то мы создадим самую неравную экономическую ситуацию, которая когда-либо существовала. Это будет намного хуже, чем то, что произошло во время промышленной революции, когда некоторые страны индустриализировались – большинство стран этого не сделали – и немногие промышленные державы продолжали завоевывать, доминировать и эксплуатировать все остальные. Итак, как нам создать достаточно глобальное сотрудничество, чтобы огромные преимущества ИИ и автоматизации не распространялись, скажем, только на Калифорнию и Восточный Китай, в то время как остальной мир останется далеко позади", - объяснил Харари.

Еще одна проблема, по его словам, - это то, что искусственный интеллект может в будущем манипулировать человеком.

"Есть искусственный интеллект, который знает меня лучше, чем я сам, и может принять решения за меня, предсказать мой выбор, манипулировать моим выбором, и авторитет все больше смещается от людей к алгоритмам. Поэтому не только решения о том, какой фильм смотреть, но даже решения о том, к какому сообществу присоединиться, с кем подружиться, с кем жениться, будут все больше зависеть от рекомендаций ИИ", - объяснил историк.

Цукерберг с ним в этом согласился, но, в то же время, отметил, что с искусственным интеллектом во многом связан технический прогресс.

"Почти каждый технологический продукт каким-то образом улучшается с помощью ИИ. Так что искусственный интеллект не является монолитной вещью. Он приводит в движение много продуктов, и это большой экономический прогресс", - заявил он.

В ответ на это Харари спросил, "есть ли у таких стран, как Гондурас, Украина, Йемен, реальный шанс присоединиться к гонке ИИ", и что будет с такими странами "через 20 или 50 лет".

Цукерберг же выразил мнение, что компании, занимающиеся разработкой технологий искусственного интеллекта, должны иметь представителей в той или иной стране, и весь этот процесс должен быть открытым.

"В будущем все компании, занимающиеся ИИ, окажутся в той или иной небольшой стране… Я думаю, мы хотим, чтобы будущее было открытым. Мы хотим, чтобы исследования были открытыми. Мы хотим, чтобы Интернет стал платформой для этого. Я думаю, что один из больших рисков в будущем заключается в том, что политика в отношении Интернета в каждой стране выглядит по-разному и является фрагментированной. В связи с этим я полагаю, что у предпринимателей в тех странах, о которых вы говорите, в Гондурасе, например, не так много шансов, если они не смогут использовать все достижения, которые происходят везде. Но если Интернет будет единым, а исследования открытыми, то я думаю, что у них гораздо лучший шанс", - объяснил свою позицию глава Facebook.

О ХРАНЕНИИ ДАННЫХ

Цукерберг напомнил, что в Facebook приняли решение не хранить данные в странах со слабым соблюдением прав человека.

"Одним из наиболее важных решений, которые я принимаю как человек, управляющий этой компанией, является то, где мы собираемся строить свои центры обработки данных и хранить данные. И мы приняли решение, что не будем размещать центры обработки данных в тех странах, которые, по нашему мнению, являются слабыми правовыми государствами, в которых доступ к данным людей может быть неправомерно получен, и это может навредить людям… Я забочусь о том, чтобы дать каждому голос, дать людям как можно большее право голоса, поэтому я не хочу, чтобы люди подвергались цензуре. На каком-то уровне эти вопросы, касающиеся данных и того, как они используются и получают ли авторитарные правительства доступ к ним, я думаю, очень чувствительны. Потому что, если вы не можете сказать то, что хотите, это очень проблематично. Это нарушает ваши права. Я думаю, что во многих случаях это останавливает прогресс. Если правительство может получить доступ к вашим данным, то оно может определить, кто вы, и посадить вас в тюрьму, причинить вам вред, причинить вред вашей семье. Поэтому я считаю, что люди, управляющие такими компаниями, обязаны попытаться бороться с созданием прецедентов, которые будут наносить вред", - подчеркнул он.

О ТЕХНОЛОГИЯХ И МАНИПУЛЯЦИИ

В ходе разговора Харари выразил мнение, что новые технологии, в частности искусственный интеллект, могут быть "инструментом наблюдения, манипулирования и контроля".

"Каждая технология может использоваться по-разному, хорошо или плохо. Вы можете использовать радио, чтобы транслировать музыку людям, и вы можете использовать радио, чтобы транслировать Гитлера, произносящего речь для миллионов немцев. Радио несет только то, что вы вложили в него… Дело не только в том, что мы изобретаем технологию, а затем у нас есть хорошие демократические страны и плохие авторитарные страны, а вопрос в том, что они будут делать с технологией. Сама технология может изменить баланс сил между демократической и тоталитарной системами. И я боюсь, что новые технологии дают неотъемлемое преимущество тоталитарным режимам. Потому что самая большая проблема тоталитарных режимов в 20-м веке, которая в конечном итоге привела к их падению, заключалась в том, что они не могли обрабатывать информацию достаточно эффективно", - разъяснил он.

О ДЕМОКРАТИИ

Глава Facebook выразил мнение, что сейчас мир намного более демократичен, чем ранее.

"Я на самом деле думаю, что мир сейчас значительно более демократичен, чем это было в прошлом. Сегодня все больше и больше людей получают право голоса, все больше людей имеют доступ к информации… Я уверен, что мы живем в самое демократичное время", - заявил он.

Харари, в свою очередь, обратил внимание на проблему манипуляции мнениями.

"Я согласен с тем, что все больше людей имеют право голоса, как в США, так и во всем мире. Меня беспокоит то, насколько мы можем доверять голосу людей – насколько я могу доверять своему голосу. В какой степени вы действительно можете поверить, что мысль, только что возникшая у вас в голове, является результатом свободной воли, а не итогом чрезвычайно мощного алгоритма, который понимает, что происходит внутри вас, и знает, как нажимать кнопки и рычаги, или же служит какой-то внешней сущности, и она посеяла эту мысль или это желание, которое мы сейчас выражаем?" – задал историк риторический вопрос.

• Ранее журналистка издания The Guardian Кэрол Кадволладер (Carole Cadwalladr), которая ранее пролила свет на скандал с Cambridge Analytica, потребовала от технических гигантов Facebook и Twitter ответов по поводу политической рекламы и влияния на выборы по всему миру.
• В ноябре прошлого года издание The New York Times опубликовало материал о подноготной расследования вмешательства России в американские президентские выборы 2016-го года через Facebook. Для этого журналисты взяли интервью у 50 людей, которые присутствовали на переговорах или осведомлены о внутренних делах компании. #Буквы сделали сокращенный адаптированный перевод материала.

Источник: bykvu.com

Комментарии: