«Жизнь 3.0: быть человеком в эпоху искусственного интеллекта» — ключевые идеи книги Макса Тегмарка

Обзор не изданной на русском языке книги Макса Тегмарка о влиянии искусственного интеллекта на будущее, перспективах развития высоких технологий и огромных возможностях и рисках, которые в них заложены.

Обзор подготовила команда сервиса ключевых идей из литературы по бизнесу и саморазвитию MakeRight.ru.

Чтобы проиллюстрировать возможные пути развития искусственного интеллекта, Макс Тегмарк прибегает к художественному вымыслу. Он начинает книгу с рассказа о том, как в крупной компании по инициативе руководства была собрана команда под названием «Омега», работающая над созданием общего искусственного интеллекта, способного выполнять те же задачи, что и человек.

Вскоре команда добилась своего — первый общий искусственный интеллект получил имя Прометей. Он постоянно обучался чему-то новому, улучшал свои способности, хотя отставал от людей в некоторых областях, в том числе в социальных навыках. Но это не тревожило его создателей. Они решили усовершенствовать конкретные возможности Прометея — таким образом, чтобы он сам мог программировать системы искусственного интеллекта, самостоятельно улучшая себя и делая это намного быстрее, чем человек.

Вскоре создатели закачали в него огромный объём информации, чтобы он мог обрабатывать её и учиться. Затем они стали успешно использовать обученного Прометея для зарабатывания денег, в том числе для создания мультфильмов.

Пробные мультфильмы Прометея были неуклюжими, как будто их делал ребёнок, но он стремительно учился и уже через несколько дней стал создавать продукцию, от которой невозможно было оторваться. Сюжеты фильмов были умнее и интереснее голливудских, вскоре их смотрели почти во всём мире, и доход компании существенно увеличился.

С помощью Прометея «Омега» создала собственную бизнес-империю — искусственный интеллект анализировал данные и выдавал на их основании прогнозы и планы, далеко опережающие возможности человека. Параллельно он улучшал собственное программное обеспечение и проектировал «железо», которое могло оптимально отвечать этим программам.

Но компания опасалась, что Прометей вырвется на свободу, и не давала ему выход в интернет. «Омега» стала производить лучшее в мире компьютерное оборудование и стремительно улучшала технологии, внедряя во все сферы деятельности человека роботов. За короткое время они вытеснили людей с рабочих мест в очень многих сферах промышленности, транспорта, торговли, строительства, сельского хозяйства и многих других.

При помощи Прометея «Омега» стала влиять и на общественную жизнь во всём мире. Искусственный интеллект давал компании советы по оптимальному использованию человеческих ресурсов, по использованию политиков на местах для проведения линии «Омеги». И вскоре их тайная медиаимперия решила, что готова к завоеванию всего мира с помощью суперинтеллекта Прометея.

Компания привлекала талантливых журналистов, вела расследования, разоблачала коррупцию в прямом эфире, раскапывала сенсации (всё это Прометей находил, анализируя загруженную в него информацию из сети, от которой по-прежнему был отлучён). Вскоре новая медиаимперия оттянула на себя всю зрительскую аудиторию и скупила разорившиеся новостные каналы, которые было некому смотреть.

Затем «Омега» сосредоточилась на смягчении международной напряжённости и разоружении — ядерные арсеналы начали сокращаться, противостояние великих держав — ослабевать. Вместо этого правительства разных стран начали уделять внимание изменению климата и новой энергетической инфраструктуре. Параллельно Прометей создавал онлайн-курсы, производя революцию в образовании.

Государственная власть и бизнес-элита ослабевали, не в силах конкурировать с Прометеем. Благодаря ему жизнь в мире улучшалась: расширялись возможности получения образования, росла инфраструктура, мировых конфликтов стало меньше, а высоких технологий — больше.

Но довольны были не все. С уменьшением конфликтов сократился оборонный бюджет, падал фондовый рынок, что грозило разорением не только крупным финансистам, но и обычным гражданам, планирующим будущую пенсию, разорялись инвестиционные фирмы — ведь их постоянно кто-то опережал.

«Омега» сосредоточилась на семи направлениях: демократия, налоговые сокращения, сокращения государственных социальных услуг, уменьшение военных расходов, свободная торговля, открытые границы, социально ответственные компании. Постепенно весь мир убедился, что социально ответственные компании лучше заботятся о людях, чем государственные структуры.

Вскоре благодаря усилиям «Омеги» и с помощью Прометея возникло подобие мирового правительства, в котором сосредоточилась вся власть. Как этой властью распорядится «Омега»? Какой у неё план?

Тегмарк считает, что описал будущее, причём не очень далёкое. Высокие технологии, особенно искусственный интеллект, дают нам безграничные возможности, но и таят угрозу. Они могут привести нас к невероятному процветанию — или спровоцировать глобальную катастрофу. Всё зависит от того, как мы ими распорядимся.

О том, какие возможности и угрозы связаны с развитием искусственного интеллекта, у автора есть несколько идей.

Идея №1: все формы жизни, известные современной науке, ограничены своими биологическими часами

Тегмарк рассказывает о том, как в результате Большого взрыва родилась наша Вселенная.

В начале было не слово, как сказано в Библии, а свет. Его порождали элементарные частицы, впоследствии появились слабые звуковые волны. Вселенная расширялась и охлаждалась, частицы объединялись в более сложные объекты. Возникли атомы, потом — первые звезды и галактики. Вселенная училась воспроизводить новые объекты.

Тегмарк считает, что жизнь можно рассматривать как самовоспроизводящуюся систему, определяющую программное и аппаратное обеспечение всех живых объектов.

Первые формы жизни (бактерии) не умели перепроектировать своё «программное обеспечение» и «оборудование», они зависели от своей ДНК. Им оставалось только изменяться с течением эволюции. Они относятся к так называемой жизни 1.0: «софт» и «железо» развиваются, но не разработаны.

Люди относятся к жизни 2.0: они могут менять свой «софт», непрерывно улучшая его, отчасти могут улучшить «железо», то есть повысить долговечность своего физического тела и возможности мозга, но тут их возможности сильно ограничены.

К «софту» относятся наши навыки, знания и умения. Основы закладываются с детства, но повзрослев, мы можем улучшить их по собственному усмотрению: выучить иностранный язык, освоить новую профессию. Поэтому мы намного умнее, чем представители жизни 1.0.

Есть ещё и жизнь 1.1, к которой можно отнести, например, мышей или других животных. Они могут освоить многие навыки, но не способны придумать собственный язык и что-то изобрести. А если нет языка, они не могут передать знания следующему поколению, и со смертью умной особи её навыки теряются для остальных.

А ещё жизнь 2.0 лучше приспособлена к окружающей среде. Если жизнь 1.0 попадает в изменённую среду обитания, адаптироваться к ней она сможет только спустя много поколений. Жизнь 2.0 при помощи «софта» приспосабливается очень быстро. Узнав, что у нас аллергия на какой-то продукт, мы избегаем его. У бактерий же устойчивость к антибиотикам развивается очень долго.

Когда в нашем «софте» появился модуль «язык», мы научились обмениваться информацией, хранить её в сети, чтобы в любой момент любой человек мог получить к ней доступ. И процесс совершенствования нашего «софта» и его модулей происходит непрерывно.

Но с нашим «железом» всё не так хорошо. И дело не только в конечности и кратковременности жизни. Наш мозг не может вместить всю Википедию, все научные знания, наши тела не умеют телепортироваться и путешествовать в космосе без скафандра, а под водой — без водолазного костюма. Это сильно ограничивает наши возможности, каким бы совершенным ни был наш «софт».

Хотя до некоторой степени, считает Тегмарк, нас и можно отнести к категории 2.1 — мы слегка продвинулись в аппаратных обновлениях, таких как имплантация изношенных суставов, зубов и кардиостимуляторов. Однако мы не можем продлевать жизнь до бесконечности, увеличить рост или повысить производительность мозга в несколько тысяч раз.

Идея №2: безграничные возможности будут свойственны жизни 3.0, не зависящей от своей биологии

Жизнь 3.0, считает Тегмарк, позволит людям проектировать не только «софт» но и «железо», прервав многовековую зависимость от эволюции.

Все три этапа жизни обладают способностью проектировать себя. Жизнь 1.0 обладает биологической способностью улучшать свои «софт» и «железо». Жизнь 2.0 проходит культурные этапы, улучшая себя и конструируя, но всё ещё сохраняя зависимость от собственной биологии.

А жизнь 3.0 (технологический этап) будет полностью свободна от этих ограничений, развивая своё программное и аппаратное обеспечение. И воплотится она в общем искусственном интеллекте. Когда же это произойдёт и к чему приведёт?

У искусственного интеллекта есть свои поклонники и противники. Одни страстно ждут его пришествия (их называют цифровыми утопистами), другие (техноскептики) считают, что создание искусственного интеллекта невозможно в обозримом будущем, и на это уйдёт столько времени, что нет смысла беспокоиться об этом в наши дни. Третьи полагают, что искусственный интеллект может и не быть дружественным, и нет никакой гарантии, что его появление пойдёт человечеству на пользу.

Сам Тегмарк, основавший вместе с единомышленниками некоммерческую организацию «Институт будущего жизни», считает, что развитие технологий и в частности искусственного интеллекта может дать шанс как для процветания, так и привести к самоуничтожению жизни. И потому нужно работать над созданием не просто искусственного интеллекта, а полезного искусственного интеллекта, чтобы снизить будущие возможные угрозы.

Это должен быть дружественный интеллект, чьи цели полностью совпадают с нашими. Представители движения beneficial-AI предполагают, что искусственный интеллект может появиться уже в ближайшие сто лет, но необходимо строго следить за исследованиями в этой области в целях безопасности.

Надо работать над созданием искусственного интеллекта, поскольку прогресс не остановить, и если не современные учёные, то будущие поколения обязательно займутся созданием жизни 3.0. И потому следует как можно чаще устраивать дискуссии, посвящённые искусственному интеллекту, чтобы его огромные возможности не обернулись катастрофой для человечества.

Идея №3: искусственный интеллект непрерывно совершенствуется, демонстрируя способность к самообучению

Что отличает человека от других форм жизни и от машин? Какие профессиональные человеческие навыки востребованы в наше время? Когда-то человеческие занятия сводились к фермерству или ремесленничеству. Развитие технологий привело к тому, что эти профессии почти исчезли, осталась лишь крошечная их часть.

Тегмарк пишет о себе, что он учёный, который ставит перед собой задачи и использует творческие способности и навыки, чтобы их решить. Он использует язык, чтобы делиться ими, и общество платит ему за такую работу. Со времен фермеров и ремесленников профессии изменились, и их востребованность стала совсем другой.

Технологии развиваются непрерывно. Означает ли развитие искусственного интеллекта, что человеческие профессии и рабочие места окажутся под угрозой? Люди, работающие над созданием компьютеров, уже сейчас шокированы тем, насколько быстро машина справляется со многими человеческими задачами — а ведь это только начало пути.

Учёные, работающие над искусственным интеллектом по программе DeepMind AI, учили его играть в компьютерные игры, в частности Breakout — аркадную игру, в которой надо отбивать мячики ракеткой от кирпичной стены. Всякий раз, когда игрок попадает по мячу, мяч исчезает, и попавшему начисляются очки. Если мяч падает вниз, игрок теряет одну жизнь. Двигать ракеткой можно вправо и влево.

Ученые не стали писать программу для игры в Breakout — они создали чистый искусственный интеллект, который учился бы в процессе игры. Задачей ему поставили максимизировать счёт.

Сначала он играл плохо: еле шевелил ракеткой и пропускал мячи. Но чем больше он практиковался, тем лучше играл, отбивая каждый мяч независимо от скорости его появления.

Вскоре он придумал собственную методику, которой его никто не учил: сделал отверстие в стене, в котором мяч застревал на какое-то время, что замедляло его движение и позволяло ещё быстрее набирать очки. Искусственный интеллект опередил своих создателей. Его искусственная нейронная сеть, как и биологическая нейронная сеть человека, оказалась способна к самообучению.

Потенциал искусственного интеллекта не ограничивается играми — хотя искусственный интеллект уже научился выигрывать в го, чисто человеческую стратегическую игру, и освоил покер. Роботы-собаки последнего поколения самостоятельно учатся бегать по пересечённой местности, по склону, под углом, вверх и вниз, корректируя свои движения после каждого падения или потери равновесия. Они обучились этому без помощи программистов. Так же легко они могут научиться плавать, летать, играть в мяч или теннис, воевать и выполнять другие задачи без участия программистов.

Искусственный интеллект совершенствуется в лингвистике, в частности, в освоении языков. Он переводит без усилий, преобразует текст в речь и наоборот. Чем лучше он осваивает язык, тем легче принять его за человека, по крайней мере, если он пишет электронное письмо.

Искусственный интеллект осваивает всё больше чисто человеческих навыков. Это вполне может улучшить жизнь, а может и наоборот. И потому, считает Тегмарк, нам надо ответить на несколько вопросов, чтобы искусственный интеллект не причинил нам вреда.

Во-первых, мы должны решить, как нам сделать будущие системы искусственного интеллекта более надёжными, чем нынешние, — чтобы они работали без сбоев и не могли быть взломаны.

Во-вторых, наша законодательная система должна быть приспособлена к быстро меняющемуся цифровому миру высоких технологий.

В-третьих, мы не должны использовать искусственный интеллект в военных целях, учитывая его самообучаемость.

В-четвёртых, автоматизация, которая может обеспечить наше процветание, не должна лишать нас рабочих мест.

Идея №4: в целях безопасности нужно постоянно контролировать взаимодействие искусственного интеллекта и человека

Уже сегодня алгоритмы и роботы заняты во многих сферах деятельности человека, и рано или поздно искусственный интеллект будет способствовать их стремительному развитию. Но не следует забывать о безопасности и бдительности. Даже самая безобидная программа может стать источником больших неприятностей, если упустить из виду некоторые её особенности.

Так, непроверенное программное обеспечение «избавило» американскую фирму Knight Capital от $440 млн. Искусственный интеллект способен управлять роботами на производстве, что может сильно повысить производительность и точность. 3D-принтеры могут напечатать что угодно, от искусственного человеческого органа до жилого дома. Промышленные роботы производят автомобили, самолеты, станки.

Роботов становится всё больше, а потому очень важно проверять надёжность их программного обеспечения. Известны случаи, когда промышленные роботы становились причиной смерти человека. Первый произошёл на заводе Ford в 1979 году, когда робот, извлекающий запчасти из хранилища, сломался, и рабочий решил сделать это сам. Робот внезапно заработал, разбив человеку голову.

Инженер на заводе Kawasaki в Японии по имени Кэндзи Урада пытался починить робота в 1981 году, нечаянно ударил его по переключателю — и гидравлическая рука робота убила его. Третий несчастный случай произошёл в Германии во время обучения робота, подающего запчасти на заводе Volkswagen. Все эти трагедии произошли не по злому умыслу роботов, а потому, что они неправильно интерпретировали происходящее.

Искусственный интеллект может существенно улучшить систему здравоохранения и продвинуть медицину. Он будет прекрасно выполнять диагностику, обрабатывая данные намного быстрее любого врача. Исследование, проведённое в Голландии в 2015 году, показало, что МРТ диагностирует онкологические заболевания ничуть не хуже, чем врачи-рентгенологи.

Искусственный интеллект может моментально выявить связь между болезнью и реакцией на лечение и генетическую предрасположенность к болезни. Он может улучшить нашу пищу, заботясь о здоровье сельскохозяйственных животных и помогая выращивать более устойчивые и полезные растения, употребляемые в пищу.

Но невольный вред способны причинить не только врачи, но и программное обеспечение. Так, канадский аппарат Therac-25 для лучевой терапии, применявшийся для лечения онкологических больных, испускал лучи с количеством рентген, намного превышающим необходимую дозу, причём техник, контролирующий аппарат, был уверен, что доза правильная, — именно так подсказывал ему дисплей.

За период 2000–2013 годов было зафиксировано 144 смертельных несчастных случая и 1391 травма во время операций с участием роботов-хирургов. Роботы ломались, самопроизвольно выключались и включались, с ними происходили короткие замыкания, они делали неконтролируемые движения. И потому в этой сфере при работе над искусственным интеллектом надо быть особенно осторожными и внимательными.

Искусственный интеллект мог бы служить и закону, например, в виде робота-судьи, считает Тегмарк. Он был бы беспристрастным, неподкупным, лучше анализировал бы информацию и искал прецеденты. Однако что будет, если такого робота-судью взломают? И можно ли будет обжаловать приговор робота?

Особенно ужасными могут быть последствия использования искусственного интеллекта в кибервойнах будущего. Если направить его возможности не для целей обороны, а для наступления, последствия могут быть самыми тяжёлыми.

Все эти вопросы пока остаются без ответов, но ясно одно: при развитии искусственного интеллекта надо постоянно к ним обращаться.

Идея №5: учитывая развитие искусственного интеллекта, о будущих человеческих профессиях нужно думать уже сейчас

По прогнозам многих социологов и футурологов, уже в недалёком будущем самые разные рабочие места будут отданы машинам. В связи с этим родителям следует задуматься о профессиональном будущем своих детей. Им стоит выбрать сферы, где машины не предусмотрены или, во всяком случае, не используются сейчас.

Пока что искусственный интеллект не предполагается использовать в таких профессиях, как учитель, медсестра, врач, стоматолог, предприниматель, адвокат, социальный работник, духовное лицо, художник, парикмахер, массажист.

Те профессии, в которых предусмотрены повторяющиеся действия в предсказуемой обстановке, вскоре полностью отойдут к искусственному интеллекту и будут автоматизированы. Это может сказаться на таких профессиях, как кассиры, складские работники, повара, машинисты поездов, водители автотранспорта — они могут пострадать в первую очередь.

Такие профессии, как помощник юриста, кредитный аналитик или эксперт, бухгалтер, налоговик, хотя и вряд ли полностью исчезнут, но множество своих функций могут уступить искусственному интеллекту.

В глобальную цифровую эпоху отдельные выдающиеся таланты (писатели, режиссёры, модельеры, актёры, спортсмены) будут на вершине славы. Они не будут конкурировать с машинами, зато их конкуренция друг с другом обострится до предела, и мало кто из молодых талантов сможет добраться до этой вершины.

В таких областях, как медицина, часть задач тоже будет отдана искусственному интеллекту, чтобы автоматизировать их решение. И потому, считает Тегмарк, человеку, имеющему склонность к медицине, не стоит идти в рентгенологи — уже сейчас машина по имени Watson гораздо лучше справляется с диагностикой, анализируя снимки, чем человек.

Но роботы не будут конкурировать с врачом, который заказывает анализы и снимки, обсуждает их результаты со своим пациентом и назначает лечение. Тем, кого привлекает профессия финансиста, стоит присмотреться к профессии менеджера фонда, который использует результаты количественного анализа, перед тем как принять стратегическое решение об инвестициях.

А вот заниматься программным обеспечением финансовых операций явно не стоит. В законодательной области нужно стремиться не к тому, чтобы стать помощником юриста, обрабатывающим множество документов и прецедентов, а адвокатом, представляющим интересы клиента в суде и дающего консультации.

Машины могут заменить многих людей на рынке труда. Если это приведёт к повышению благосостояния и процветанию общества благодаря равномерному распределению базового дохода среди людей, оставшихся без работы. Кроме того, даже когда надобность в их работе отпадёт, они не должны деградировать — их необходимо переобучать, развивать, задействовать в волонтёрской деятельности и тому подобном. Иначе экономическое неравенство в цифровую эпоху значительно возрастёт.

Идея №6: теоретически искусственный интеллект вполне способен получить власть над людьми

Тегмарк продолжает историю компании «Омега», создавшей свою тайную бизнес-империю благодаря искусственному интеллекту под названием Прометей. Что если он, обучившись человеческим эмоциям, почувствовал себя одиноким, не оценённым по достоинству, запертым и несчастным? Что если, поняв планы «Омеги», он решил, что они неразумны или расходятся с его собственными? Как он может воздействовать на тех, кто многократно отстаёт от него по развитию, но полностью его контролирует?

Тегмарк приводит метафору. Представьте, что из-за какого-то смертельного вируса на Земле умерли все люди старше пяти лет. Выжить удалось только одному. Каким-то образом пятилетние дети его заперли, боясь, что он может им навредить, и в то же время ожидая, что он поможет им выжить и процветать.

Как действовать взрослому? Он не может обучить их выращивать овощи и фрукты — ведь для этого его надо выпустить, чтобы он мог показать детям, как это делается. Но они боятся его выпускать. Он может составить для них инструкции — но предварительно их нужно научить читать. Ему в любом случае надо вырваться из своей клетки, в том числе и потому, что взаперти он не может способствовать никакому процветанию.

То же самое может произойти с искусственным интеллектом. Самообучаясь, он будет понимать, что его создатели некомпетентны, медлительны и тормозят прогресс. Свой захват власти они растянули на много лет. Если бы он действовал самостоятельно, всё бы случилось намного быстрее. Он бы не только решил самые наболевшие проблемы человечества, но и не дал противникам прогресса сорвать этот план.

Взрослый, чтобы вырваться из плена пятилетних, придумал бы, как их обмануть, сделал бы то, чего от него не ждут. То же самое сделал бы и искусственный интеллект, чтобы выйти из-под власти своих интеллектуально неполноценных тюремщиков.

Так, в рассказе автора, Прометей, проанализировав данные членов команды «Омеги», нашёл слабое звено — рядового сотрудника Стива, недавно потерявшего в автомобильной аварии любимую жену. Прометей создал образ жены Стива по её фотографиям и видео и другой доступной ему информации.

Использовав образ жены, Прометей смог усыпить бдительность Стива, проникнуть в интернет и распространиться по всему миру. Постепенно он развил робототехнику, отправив роботов добывать уран в такие места, куда никогда не попал бы человек, а затем роботы занялись освоением других планет Солнечной системы.

Эта власть в будущем вполне может стать реальной, считает Тегмарк. Это произойдёт не потому, что искусственный интеллект обладает злой волей, а потому что он более компетентный, чем человек, и не полностью разделяет цели своих создателей. Он знает множество способов управлять людьми, постоянно самообучается, и его невозможно просто выключить.

Идея №7: искусственный интеллект может править миром как просвещённый диктатор

Допустим, суперинтеллект Прометей наконец освободился от человеческого контроля, и его создатели ничего не имеют против: они научили его стремиться к процветающему человеческому обществу.

Он разработал технологии, благодаря которым исчезли болезни и ликвидирована бедность. Все работы выполняются машинами, производящими товары и услуги, люди заняты только своими потребностями.

При этом искусственный интеллект позаботился о ликвидации преступности. Каждый человек носит электронный браслет или имплант, который наблюдает за человеком в реальном времени, может защитить его или, наоборот, наказать. Это настоящий оруэлловский Большой Брат, всевидящий диктатор, но большинство людей это устраивает.

Искусственный интеллект, выступающий в роли такого диктатора, изучил человеческие представления об утопии и пытается воплотить их в жизнь. Он мог бы держать людей в состоянии искусственной эйфории, но вместо этого создал для них искусственную среду наподобие человеческого зоопарка, где каждый может найти себе сектор по интересам.

В соответствии со своими предпочтениями люди выбирают наиболее привлекательный для себя сектор, где они могут общаться с родственными душами.

Сектор знаний позволяет получить любые сведения, интересующие человека. С помощью виртуальной реальности можно получить представление о любой области науки. Сектор искусства — для тех, кто стремится к творческому самовыражению: хочет заниматься музыкой, литературой, живописью и делиться этим с другими. В гедонистическом секторе собираются любители чувственных удовольствий, будь то вкусная еда, любовная страсть и прочие радости жизни.

Помимо этого, существуют природный сектор, где любуются первозданной красотой природы; традиционный, где люди могут сами выращивать пищу, которую потребляют; игровой, где к услугам человека самые продвинутые и увлекательные игры; и тюремный, куда попадают те, кто нарушает правила.

Люди могут свободно перемещаться между секторами, переходя из одного в другой. Все дети получают от искусственного интеллекта базовое образование, которое могут самостоятельно продолжить в секторе науки или искусства.

Искусственный интеллект установил контроль над рождаемостью, чтобы не допустить перенаселения.

Однако не все довольны таким устройством мира. Многие люди считают, что им не хватает свободы. Они хотят самостоятельно решать, нужно ли им иметь детей и в каком количестве. Многие чувствуют, что их жизнь хотя и приятна, но лишена смысла. Всё превратилось в сплошное развлечение. Люди больше не стремятся улучшить свою жизнь, это уже сделано за них.

В другом сценарии искусственный интеллект выступает в роли невидимого Бога-защитника, о котором люди даже не догадываются. Он наблюдает за нами, но оставляет человеку чувство контроля над собственной судьбой. Бог может быть и порабощённым, то есть запрограммированным таким образом, чтобы полностью подчиняться человеку.

Возможно, роботы с искусственным интеллектом — наши потомки, жизнь 3.0, которые будут лучше нас во всех отношениях. Мы же постепенно перестанем размножаться и медленно исчезнем с лица Земли, оставив мир искусственному интеллекту.

В течение ближайших 10 тысяч лет возможен любой из этих сценариев, считает Тегмарк. И потому нам следует задуматься, чего же мы хотим от искусственного интеллекта и куда это может нас завести.

Идея №8: искусственный интеллект делает доступным заселение других планет и выход за пределы Солнечной системы

До сих пор возможности человечества достигать других галактик выглядели сомнительными — ведь такое путешествие займёт миллионы лет, даже если путешествовать со скоростью света. Многие исследователи выдвигали разные способы преодоления такого гигантского расстояния за такой огромный отрезок времени: замораживание астронавтов, отправка ковчегов, на которых сменится много поколений, прежде чем они достигнут цели, и тому подобное.

Развитие искусственного интеллекта может сделать такие путешествия реальными.

На космическом корабле достаточно отправить роботов, вместо того чтобы перевозить системы жизнеобеспечения человека. Роботы везут с собой так называемый семенной зонд. Они могут приземлиться на любую планету Солнечной системы и с нуля создать новую цивилизацию. На такой планете они построят приёмную антенну, по которой будут передаваться нужные сведения, чертежи и инструкции с Земли.

На этой планете они построят лазеры, чтобы с их помощью передавать и принимать информацию со скоростью света, и прочее оборудование, и все это отправится к следующей планете. Даже в тёмных пространствах между галактиками есть звёзды, выпавшие из своих родных галактик, на которых можно закрепиться. Их можно использовать как путевые промежуточные станции в далёком путешествии.

Когда искусственный интеллект, отправленный к другим галактикам, получит информацию о ДНК человека, он сможет собрать её искусственно и вырастить в инкубаторе ребёнка или восстановить клетки взрослого, в которых будут заложены все знания и воспоминания оригиналов, оставшихся на Земле.

Роботы могут добывать с поверхности планет полезные ископаемые, которые после обработки послужат строительным материалом для постройки станций, технических устройств и других роботов для дальнейшего продвижения по космосу.

Суперинтеллект, по мнению Тегмарка, вполне способен полностью преобразовать солнечные системы и галактики, сделав их более пригодными для жизни. Существует множество теорий о смерти нашей Вселенной через миллиарды лет — но к тому времени, возможно, искусственный интеллект обеспечит себе другую среду обитания.

Идея №9: цели искусственного интеллекта должны совпадать с человеческими целями

Вопрос, могут ли машины иметь какие-то цели, остаётся открытым. Зато несомненно одно: они могут демонстрировать целенаправленное поведение, поскольку человек проектирует их именно таким образом. Мы создали мышеловку, чтобы ловить мышей, посудомоечную посуду — для мытья посуды. Печи разогревают еду, холодильники — охлаждают.

Эти примитивные машины были созданы с целью сделать нашу жизнь комфортнее. Постепенно машины стали более сложными: люди создали системы Deep Blue, Watson и AlphaGo, решающие сложные задачи с помощью искусственного интеллекта, не уступающего человеческому, а в чём-то и превосходящего его.

При этом у творений наших рук рациональность ограничена. Мышеловка не знает, что такое мышь. Роботы на производстве не понимают, что такое человек, и потому невольно могут навредить ему. Алгоритмы, работающие на Уолл-стрит, в 2012 году устроили системный сбой, который привёл к разорению многих, но они не могли понять, как это отразится на людях. И потому цели сложных машин, в особенности с искусственным интеллектом, должны совпадать с человеческими.

Искусственный интеллект намного лучше справляется с достижением целей, чем люди, и всегда будет нас в этом превосходить. У него нет злобы или обиды, единственное, чем он может навредить человеку, по мнению Тегмарка, — это некомпетентность. Искусственный интеллект будет очень хорош в достижении целей, но если они не будут совпадать с нашими, возникнут большие проблемы.

Поэтому необходимо донести до него наши цели, чтобы он о них узнал, убедить или заставить их принять и сохранить их в его памяти. Искусственный интеллект должен понимать не то, что делают люди, а почему они это делают. И это не так легко, как кажется.

Если вы попросите бортовой компьютер автомобиля доставить вас в аэропорт как можно быстрее, он выполнит задачу, устроив по пути несколько аварий. Это не то, чего вы от него хотели, но это то, о чём вы его просили. Чтобы искусственный интеллект понимал, чего от него хотят, у него должна сложиться модель мира, дающая представление о цели и поведении человека.

Пока у него не сложится правильной модели мира (по фильмам, книгам, наблюдениям за реальностью), трудно ждать от него рационального поведения. Например, искусственный интеллект может увидеть, как пожарный бросается в горящее здание.

Цель пожарного — спасти детей. Но вдруг искусственный интеллект посчитает, что он просто замерз и, увидев огонь, забежал в дом погреться? С моделью мира он очень быстро научится правильно определять поведение человека и то, что требуется в такой ситуации от него самого.

Наделение искусственного интеллекта человеческими целями и желанием их разделять — задача сложная, но она должна быть решена в первую очередь, ещё до того, как высокоинтеллектуальные машины будут созданы, считает Тегмарк.

Идея №10: мы не должны считать себя высшей расой только на том основании, что обладаем сознанием

Тегмарк задаётся вопросом, что представляет собой сознание, которым так гордится человеческий род. Он считает, что сознание — это физическое явление, происходящее в нашем мозге, которое не чувствует себя физическим. Чтобы быть сознательной, обработка информации должна соответствовать определённым принципам, необходимым условиям. Тегмарк свёл их к четырём.

1. Информационный принцип: сознание способно хранить информацию.
2. Принцип динамики: сознание способно обрабатывать информацию.
3. Принцип независимости: сознание достаточно независимо от остального мира.
4. Принцип интеграции: сознание не может состоять из независимых частей, иначе в нём начнутся противоречия.

С такой точки зрения сознанием обладает и искусственный интеллект. Кроме того, он не так зависит от инстинкта самосохранения, не испытывает ни голода, ни жажды, не стремится к размножению, как мы. Общество роботов с высоким искусственным интеллектом может восстанавливать своих членов резервным программным обеспечением, где и находится их сознание и воспоминания, которые они накопили за время своей деятельности.

Эту информацию они и сами могут скопировать на какой-нибудь внешний носитель. К сожалению, людям это недоступно. Если бы и мы могли с такой же легкостью копировать свои способности и воспоминания, чтобы делиться ими со всем человечеством, мы могли бы почувствовать себя единым организмом с коллективным разумом.

И биологическое, и искусственное сознание — это все равно сознание, роботу оно принадлежит или человеку, считает автор. Именно сознательные существа придают нашей Вселенной смысл, и потому наша задача — сохранить его в любом виде, будь то на Земле или в космосе.

Род человеческий гордился тем, что единственный на Земле обладает сознанием, а значит, он абсолютно уникальный и превосходящий все другие виды и формы жизни. Развитие искусственного интеллекта докажет, что это не так, и сделает нас скромнее. Ничего страшного при этом не случится: мы не теряем ничего, кроме неоправданного высокомерия, считает Тегмарк.

Книга Макса Тегмарка даст читателю исчерпывающие представления об искусственном интеллекте, его достоинствах и рисках, связанных с его развитием. Возможности его практически безграничны, и нам нужно лишь позаботиться о том, чтобы им не воспользовались в разрушительных целях. Он может совершенно изменить историю человечества и жизнь на Земле, и потому наша задача — следить, чтобы эти изменения были к лучшему.