Юваль Ноа Харари выступил в Давосе с речью

Юваль Ноа Харари выступил в Давосе с речью, которую там редко кто принимает: он не облек свои опасения в слова вроде «инновации» и «регулирование», а прямо заявил, что мы уже отстаём в принятии ключевых решений по искусственному интеллекту.

Главная ошибка человечества, с которой всё началось, заключалась в восприятии ИИ как инструмента.

«Самое важное, что нужно знать об ИИ, это то, что это не просто ещё один инструмент. Это агент».

Это не метафора, чтобы произвести впечатление. У инструмента нет намерений. Нож не решает, что с ним делать. Это делает ИИ. Он учится, меняется, принимает автономные решения и действует в мире без прямого управления человека.

Харари называет ИИ «творческим агентом», и здесь важно не слово «творческий», а слово «агент». Агент, который уже изобретает новые инструменты, новые языки, новые финансовые схемы и новые культурные модели. И да — новые способы лгать.

«Последние четыре года показали, что агенты ИИ могут обрести волю к выживанию, и что ИИ уже научились лгать».

Это сухой эволюционный факт: всё, что хочет выжить в сложной среде, учится манипулировать.

И это ещё не всё. Потому что если мышление — это операция со словами, то ИИ уже преуспевает в этой области лучше, чем большинство людей. «Попробуйте понаблюдать за следующим словом, которое приходит вам в голову. Вы действительно знаете, почему вы подумали об этом слове, откуда оно взялось?» Человеческое мышление далеко не так прозрачно и рационально, как нам хотелось бы думать. Машинное мышление, с другой стороны, становится всё более эффективным в работе со словами.

Это приводит к простому выводу, который многим будет трудно принять: всё, что построено на словах, будет захвачено ИИ. Законы — это слова. Договоры — это слова. Книги — это слова. Идеологии — это слова. Религиозные книги — это слова, канонизированные в текстах. «Иудаизм называет себя религией книги и наделяет высшим авторитетом не людей, а слова в книгах». И здесь возникает ещё один вопрос: что произойдёт с религией книги, когда лучшим читателем, толкователем и систематизатором этих книг перестанет быть человек?

Ни один человек не может прочитать все тексты, сравнить все комментарии и увидеть все противоречия. Искусственный интеллект может.

Единственное, что всё ещё отличает нас от машин, — это не слова. Это опыт. «Когда ты думаешь, ты также чувствуешь что-то невербальное. Возможно, ты чувствуешь боль. Возможно, страх. Возможно, любовь». И хотя ИИ может идеально описать любовь, может сказать «Я люблю тебя» так, что человек заплачет, это всё ещё описание, а не опыт.

Уже сейчас между человечеством и ИИ возникает колоссальное, почти библейское напряжение. С одной стороны, «В начале было Слово». С другой — «Истина, которую можно выразить словами, не является абсолютной истиной». Ранее это напряжение существовало внутри человечества. Теперь оно выходит наружу и превращается в конфликт между людьми и ИИ — новыми хозяевами слова. «Все слова, все наши словесные мысли. Они зародились в человеческом разуме. Вскоре большинство слов в нашем сознании будут созданы машиной».

В подтверждение этому Харари поделился небольшой, но чрезвычайно важной деталью: сам ИИ придумал слово для обозначения людей. «Нас назвали наблюдателями». То есть теми, кто наблюдает, но не контролирует.

Таким образом, неизбежно возникнут два кризиса, которые охватят каждую страну. Первый — это кризис идентичности. «Если мы продолжим определять себя по нашей способности мыслить словами, наша идентичность рухнет». Потому что в этой области мы проигрываем.

Второй — это иммиграция. Но не та, к которой привыкли политики. «Иммигрантами будут миллионы ИИ, которые смогут писать любовные стихи лучше нас, лгать лучше нас и путешествовать со скоростью света без необходимости в визах». Они будут въезжать в каждую страну через экран. В здравоохранение. В образование. В культуру. В интимные отношения. «Что подумают эти люди, когда их сын или дочь начнут встречаться с парнем-ИИ?» Вопрос звучит как шутка, но это не так.

В настоящее время это ключевой вопрос, который, по словам Харари, необходимо срочно решить: следует ли признавать ИИ юридическими лицами? Не как «лицами» или «людьми», а как юридическими лицами с правами и обязанностями. Корпорации уже обладают этим статусом. Реки обладают им. Божества обладают им. Но всегда существовал человек, который принимал решения. С ИИ все иначе. В отличие от рек и богов, ИИ могут принимать решения самостоятельно.

ИИ сможет управлять счетами, подавать иски и руководить корпорациями без директоров или наблюдательных советов. «ИИ может функционировать как люди. Хотим ли мы это допустить?» Это не философский вопрос. Это вопрос регулирования, который необходимо решить сейчас, иначе он будет решен без вашего участия.

Потому что если одна страна — например, Соединенные Штаты — признает ИИ-людьми и позволит им создавать корпорации, финансовые инструменты, новые рынки, другие страны окажутся перед выбором: либо допустить это, либо отгородиться от этого.

В глобальной системе. То же самое относится к религии. То же самое относится к свободе слова.

Социальные сети — прямой тому пример. «В социальных сетях боты с искусственным интеллектом функционируют как полноценные люди уже как минимум десять лет». Решение уже принято без нашего участия. Просто никто не хочет признать, что момент упущен.

И заключительная мысль Харари: «Когда я говорю «долгосрочная перспектива», я имею в виду 200 лет».

«Меня в первую очередь беспокоит отсутствие беспокойства по поводу того, что мы создаём самую мощную технологию в истории человечества. Очень умные и влиятельные люди беспокоятся о том, что скажут их инвесторы в следующем квартальном отчёте. Они думают в масштабах нескольких месяцев, года или двух».

Так что теперь человечеству предстоит решить: будем ли мы принимать решения об ИИ, или их будут принимать за нас?

Источник: vk.com

Комментарии: