Революция в области искусственного разума. Часть 1: путь к сверхразуму

? ? ?

«Возможно, искусственный интеллект — не просто важная тема для обсуждения, а самая важная в контексте будущего.»

? ? ?

Причина, по которой эта статья появилась на свет, проста: возможно, искусственный интеллект — не просто важная тема для обсуждения, а самая важная в контексте будущего. Все, кто хоть немного проникает в суть потенциала искусственного интеллекта, признают, что оставлять без внимания эту тему нельзя. Некоторые — и среди них Илон Маск, Стивен Хокинг, Билл Гейтс, не самые глупые люди нашей планеты — считают, что искусственный интеллект представляет экзистенциальную угрозу для человечества, сопоставимую по масштабам с полным вымиранием нас как вида.

Что ж, усаживайтесь поудобнее и расставляйте для себя все точки над i.

Данная статья является переводом публикации «The AI Revolution: The Road to Superintelligence».

Путь к сверхразуму

Мы стоим на пороге перемен сравнимых, разве что с самим рождением человечества. — Vernor Vinge

Каково это для человека — находиться здесь?

Может показаться, что находиться в этой точке на графике довольно волнительно, однако суть в том, что находясь на этой линии, человек не знает, что его ждет дальше. Так что, на самом деле для большинства всё это выглядит банальнее:

Уже не так интересно, да и момент волнения куда-то пропал…

Далёкое будущее уже не такое далёкое

Давайте представим себе, что у нас есть машина времени, и мы переносимся в 1750 год — туда где в мире не было электричества, дальняя связь означала одно: орать погромче, а все "транспортные средства" заправлялись сеном. Допустим, вы попадаете туда, забираете кого-нибудь и приводите в 2015 год, показать, "как оно тут все". Представьте, что он испытает, наблюдая за сверкающими капсулами, проносящимися мимо по шоссе; разговаривая с людьми, ещё утром находившимися на другом континенте; наблюдая за хоккеистами, играющими на стадионе в тысячах километрах от нас; прослушивая музыкальное произведение, которое оркестр играл 50 лет назад… И что уж говорить про этот волшебный прямоугольник, позволяющий нарисовать реалистичный портрет любого человека за одно мгновение, посмотреть на своё местоположение в реальном времени в виде точки, поговорить с человеком находящимся на другом конце страны — и другие вещи магического происхождения. И это ещё до того, как вы расскажете ему про Интернет, МКС, БАК, ядерное оружие или общую теорию относительности.

Этот опыт будет для него “шокирующим“, “крыше-сносящим” — и это только частично описывало его впечатления. Возможно, он даже умер бы от испытанного шока.

Но что будет, если этот человек по возвращении назад в свой родной 1750 год захочет повторить наш эксперимент, сядет в машину времени и перенесётся на те же 250 лет назад (в 1500 год), заберёт кого-то оттуда и покажет ему жизнь в 1750? Человек из 1500 конечно будет удивлён прогрессу и многим незнакомым вещам в 1750 году, но этого вряд ли будет достаточно для того, чтобы вызвать такой “убийственный шок”. Его ощущения не будут такими “крыше-сносящими”. Отличий между жизнью в 1500 и в 1750 гораздо меньше, чем между жизнью в 1750 и в 2015. Человек из 1500 узнает много удивительных вещей о пространстве и физике, будет удивлён масштабом европейских империй, и конечно же, ему придётся внести сильные поправки в своё представление карты мира. Но различий в повседневной жизни в 1500 и 1750, в транспорте, связи и других вещах, определённо будет недостаточно, чтобы убить его.

Для того, чтобы наш знакомый из 1750 мог так же повеселиться, как и мы с ним, ему придётся перенестись гораздо дальше — примерно за 12000 лет до н. э., во времена до первой аграрной революции, которая привела к созданию первых городов и дала возможность для развития цивилизации. Если бы кто-нибудь из охотничье-собирательского общества (из времени, когда человек был по сути лишь ещё одним из видов животных) увидел бы огромные империи 1750 года, величественные церкви, океанские корабли, огромные коммуны и накопленные человечеством знания, он скорее всего бы умер.

Но что если после смерти и ему тоже захотелось повторить наш эксперимент? Если наш знакомый перенесётся из 12000 года до н. э. в 24000 год до н. э., возьмёт человека, живущего там, и вернётся с ним обратно в 12000 до нашей эры, покажет ему жизнь в своём времени, то человек наверняка произнесёт что-то вроде: “Ну такое, хорошо, спасибо”. То есть, для человека из 12000 года до н. э., чтобы достичь такого же шокирующего эффекта, придётся перенестись назад более чем на 100 000 лет назад, чтобы найти там кого-то, кого он сможет удивить огнём и существованием языка.

Итак, если нам нужно перенести кого-то в будущее, чтобы до смерти удивить его, прогресс должен пройти определенное расстояние. Должна быть достигнута так называемая Смертельная Доза Прогресса (СДП) — назовём её так. То есть, если во времена охотников-собирателей СДП занимала 100 000 лет, следующая остановка состоялась уже в 12 000 году до н. э. За ней прогресс шел уже быстрее и кардинально преобразил мир где-то к 1750 году. Потом понадобилось всего пару сотен лет — и вот мы здесь.

Основная идея в том, что прогресс всё время ускоряется. Это и есть то, что футурист Рэй Курцвейл называет законом ускорения отдачи.

Ускорение прогресса происходит потому, что более развитое общество имеет свойство развиваться быстрее, чем менее развитое. В 19-м веке человечество имело гораздо больше знаний и более продвинутые технологии, чем в 15-м веке, так что неудивительно, что человечество в 19-м веке сделало гораздо больше открытий, чем в 15-м.

В меньших масштабах это тоже работает. Фильм «Назад в будущее» вышел в 1985 году, и «прошлое» было в 1955 году. В фильме, когда Майкл Джей Фокс вернулся в 1955 год, его застали врасплох новизна телевизоров, цены на содовую, отсутствие любви к гитарному звуку и необычный сленг. Это был другой мир, безусловно, но если бы фильм снимали сегодня, а прошлое было в 1985 году, разница была бы куда более глобальна. Марти Макфлай, попавший в прошлое из времени персональных компьютеров, интернета, мобильных телефонов, был бы гораздо более неуместным, чем Марти, отправившийся в 1955 год из 1985.

Причиной тому всё тот же закон ускоряющейся отдачи. Средняя скорость развития прогресса между 1985 и 2015 годами была выше, чем скорость с 1955 по 1985 годы — потому что мир был уже более развитым: он был насыщен достижениями последних 30 лет.

Так что перемены становятся всё большими и их скорость всё возрастает. Это говорит нам о том что нас ждёт достаточно интересное будущее, не так ли?

Курцвейл предполагает, что прогресс всего 20 века мог бы быть пройден всего за 20 лет при уровне развития 2000 года — то есть в 2000 году скорость прогресса была в пять раз выше, чем средняя скорость прогресса всего 20 века. Также он считает, что прогресс всего 20 века был эквивалентен прогрессу периода с 2000 по 2014 год, и прогресс еще одного 20 века будет эквивалентен периоду с 2014 по 2021 год — то есть ещё меньше, всего за семь лет.

Спустя несколько десятков лет весь прогресс 20 века будет проходиться по несколько раз в год, а дальше — всего за месяц. В конечном итоге закон ускоряющейся отдачи доведет нас до того, что за весь 21 век прогресс будет в 1000 раз превышать прогресс 20 века.

Если Курцвейл и его сторонники правы, 2030 год удивит нас так же, как парня из 1750 года удивил бы наш 2015 — то есть следующая Смертельная Доза Прогресса займет всего пару десятков лет — а мир 2050 года будет так сильно отличаться от современного, что мы едва ли его узнаем. И это не научная фантастика. Так полагает множество ученых, которые умнее и образованнее нас с вами. И если вы взглянете в историю, то поймете, что это предсказание вытекает из чистой логики.

Почему же, когда мы сталкиваемся с заявлениями вроде «мир через 35 лет изменится до неузнаваемости», мы скептически пожимаем плечами? Есть три причины нашего скепсиса относительно прогнозов будущего:

• 1: Когда речь идет об истории, мы думаем линейно. Когда мы представляем себе прогресс на следующие 30 лет, мы оглядываемся на предыдущие 30 лет и используем их как индикатор того, сколько всего должно произойти. Когда мы думаем о степени прогресса в 21 веке, мы просто берем все, что собрали в 20 веке, и добавляем это к 2000 году. Точно такую же ошибку делал чувак из 1750-го, когда привез кого-то из 1500-го и ожидал, что того хватит Кондратий от увиденного, точно так же как его самого хватил в 2015-ом. Это очень естественно — думать линейно, в то время, когда мы должны мыслить экспоненциально. Тот, кто поумнее, смог бы предсказать развитие на ближайшие 30 лет, не глядя на предыдущие 30 лет, а взяв нынешнюю скорость прогресса и опираясь в своих рассуждениях именно на нее. Он, конечно, попал бы ближе к цели, но все равно промахнулся бы. Чтобы думать о будущем правильно, надо понимать, что события в будущем будут развиваться гораздо быстрее, чем они развиваются сейчас.

• 2: Траектория недавней истории зачастую выглядит искаженно. Во-первых, даже крутая экспоненциальная кривая выглядит прямой линией, если ты рассматриваешь только маленький ее отрезок, точно так же, как если посмотреть на маленький сегмент огромного круга — он кажется прямой линией. Во-вторых, экспоненциальный рост не обязательно должен быть плавным. Курцвейл считает, что прогресс движется змееподобными S-кривыми.

Такая S-кривая проходит через три фазы:

1. медленный рост (ранняя фаза экспоненциального роста);
2. быстрый рост (взрывная, поздняя фаза экспоненциального роста);
3. стабилизация (становление и существование мира в новой парадигме развития).

Если вы взглянете на последнюю историю, часть S-кривой, в которой вы в данный момент находитесь, может скрывать от вашего восприятия скорость прогресса. За период между 1995 и 2007 произошел взрывной рост интернета, появление Майкрософт, Гугл, Фейсбук, рождение социальных сетей, сотовых телефонов, а затем и смартфонов — этим характеризовалась фаза быстрого роста. Но с 2008 по 2015 прорывов было гораздо меньше, по крайней мере в технологическом плане. Тот, кто размышляет о будущем сегодня, может взять последние несколько лет, чтобы сформулировать некую меру прогресса — но он упустит из вида картину в целом. На деле же новая и мощная фаза быстрого роста может назревать уже сейчас.

• 3: Наш опыт делает нас старыми упертыми невеждами, когда речь заходит о будущем. Мы основываем свои идеи о мире на собственном опыте, и этот опыт установил темпы роста в недавнем прошлом для нас как «само собой разумеющееся». Также и наше воображение ограничено, поскольку использует наш опыт для прогнозирования (так называемая интуиция) — но чаще всего у нас просто нет инструментов, которые позволяют точно предположить будущее. Однако, то, что мы знаем, как правило, ни дает нам нужных инструментов, чтобы предсказывать будущее. Когда мы слышим прогнозы на будущее, которые расходятся с нашим повседневным восприятием работы вещей, мы интуитивно считаем их наивными или идеалистическими. Если я скажу вам, дальше по тексту, что вы, возможно, будете жить до 150-250 лет, а может и вообще никогда не умрете, вы интуитивно возразите: «Ерунда! Если я хоть что-то усвоил из истории, так это то, что все мы умрем!». И это правда — никто в прошлом не жил вечно. Но никто не летал на самолетах, пока их не изобрели! Таким образом, хотя скепсис и кажется вам обоснованным, чаще всего он ошибочен. Нам стоит принять, что если мы вооружаемся чистой логикой и ждем привычных исторических зигзагов, мы должны признать, что очень, очень и очень многое должно измениться в ближайшие десятилетия; намного больше, чем можно предположить интуитивно. Логика также подсказывает, что если самые большие умы на Земле продолжат двигать прогресс таким же всеускоряющимся темпом, то через некоторое время человечество сделает настолько сильный скачок в развитии, что он совершенно изменит нашу повседневную жизнь и наше понимание того, что есть на самом деле развитая цивилизация. Нечто подобное случилось в процессе эволюции, когда человек стал настолько умен, что полностью изменил жизнь любого другого вида на планете Земля (прим. ред.: ноосфера). И если вы потратите немного времени на чтение того, что происходит сейчас в науке и технике, вы, возможно, начнете видеть определенные подсказки о том, каким будет следующий гигантский скачок.

Что такое ИИ (искусственный интеллект)?

Как и многие на этой планете, вы воспринимаете понятие "искусственный интеллект" как какую-то научно-фантастическую байку или глупость. Но за последнее время очень много серьезных людей проявило обеспокоенность этой глупой идеей. Что не так?

Есть три причины, по которым люди неправильно воспринимают понятие "искусственный интеллект":

1. Мы ассоциируем его с художественными фильмами. Мы ассоциируем ИИ с фильмами. «Звездные войны». «Терминатор». «Космическая Одиссея 2001 года». «Матрица». Но как и роботы, ИИ в этих фильмах — вымысел. Таким образом, голливудские ленты разбавляют уровень нашего восприятия, очеловечивая неживое: ИИ становится привычным, родным и, безусловно, злобным.
2. Искусственный интеллект — это очень широкое понятие. Он — и в калькуляторах и в самоуправляемых автомобилях. Он также и Нечто, способное изменить наш мир. Искусственный интеллект относится ко всем этим понятиям и не имеет чёткой формы — и это создаёт путаницу при попытке субъективно вообразить себе ИИ.
3. Мы используем ИИ каждый день, но зачастую даже не отдаем себе в этом отчета. Джон Маккарти, который в 1956 году ввел понятие "искусственный интеллект", говорил следующее: «Как только он начинает работать, мы уже не называем его ИИ». ИИ стал больше как мифическое предсказание о будущем, нежели что-то реальное. В то же самое время это воспринимается как популярная концепция из прошлого, которая так и не реализовалась в настоящем. Рэй Курцвейл говорит, что часто слышит, как люди ассоциируют ИИ с фактами из 80-х годов, что можно сравнить с «утверждением, что интернет умер вместе с доткомами в начале 2000-х».

Давайте проясним. Во-первых, перестаньте думать о роботах. Робот, который является контейнером для ИИ, иногда имитирует человеческую форму, иногда нет, но сам ИИ — это компьютер внутри робота. ИИ — это мозг, а робот — тело, если у него вообще есть это тело. К примеру, программное обеспечение и данные Siri — это искусственный интеллект, женский голос — персонификация этого ИИ, и никаких роботов физического плана в этой системе нет.

Во-вторых, вы наверняка слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используется в математике для описания необычной ситуации, когда обычные правила больше не работают. В физике он используется для описания бесконечно малой и плотной точки черной дыры или изначальной точки Большого Взрыва. Опять же, законы физики в ней не работают. В 1993 году Вернор Виндж написал знаменитое эссе, в котором применил этот термин к моменту в будущем, когда интеллект наших технологий превзойдет наш собственный — и в этот момент жизнь, какой мы ее знаем, изменится навсегда, а обычные правила ее существования больше не будут работать. Рэй Курцвейл в дальнейшем уточнил этот термин, указав, что сингулярность будет достигнута, когда закон ускоряющейся отдачи достигнет экстремальной точки, когда технологический прогресс будет двигаться так быстро, что мы перестанем замечать его достижения, почти бесконечно быстро. Тогда мы будем жить в совершенно новом мире. Я обнаружил, что сегодняшние ИИ-мыслители перестали использовать термин «сингулярность», поскольку смысл его весьма запутан, и сама сингулярность лишь гипотетически предполагается. Поэтому я его не буду здесь слишком часто использовать (хотя концепция сингулярности пронизывает эту статью насквозь).

Далее, поскольку существует много типов ИИ (раз уж ИИ — настолько широкое понятие), стоит выделить несколько типов искусственного интеллекта, различающихся по масштабу:

• Тип I: Artificial Narrow Intelligence (ANI)Узконаправленный (специализированный) искусственный интеллект. В разговорной речи такой тип часто называют "слабым ИИ". Такой ИИ специализируется в одной области. Например, есть ANI, который побьет чемпиона мира по шахматам, но это — единственная вещь, которую он умеет. Если спросить его, как лучше сохранить данные на жестком диске, ответом будет тишина.
• Тип II: Artificial General Intelligence (AGI)Общий (сильный) искусственный интеллект. В разговорной речи часто называют как "ИИ человеческого уровня". AGI относят к компьютеру, который умен, как человек — машина, которая способна выполнять любое интеллектуальное действие, присущее человеку. Создать AGI намного сложнее, чем ANI, и мы пока до этого не дошли. Профессор Линда Готтфредсон описывает интеллект как «в общем смысле психический потенциал, который, наряду с другими вещами, включает способность рассуждать, планировать, решать проблемы, мыслить абстрактно, понимать сложные идеи, быстро учиться и извлекать опыт». AGI должен уметь делать все это так же просто, как делаете вы.
• Тип III: Artificial Superintelligence (ASI)Искусственный сверхинтеллект. Оксфордский философ и теоретик из области ИИ Ник Бостром определяет ASI как «интеллект, который гораздо умнее лучших человеческих умов в практически любой сфере, включая научное творчество, общую мудрость и социальные навыки». ASI включает в себя как компьютер, который совсем немного умнее человека, так и машину, которая в триллионы раз умнее в любом направлении. ASI и есть причина того, что растет интерес к ИИ, а также того, что в таких обсуждениях часто появляются слова «вымирание» и «бессмертие».

Итак, на сегодняшний день человечество смогло совладать с первым уровнем ИИ — Специализированным Искусственным Интеллектом. Он — реальность во многих областях, существуя, фактически, повсюду. Революция Искусственного Интеллекта — это путь ANI?AGI?ASI. Это путь, который мы, люди, можем и не пережить, и который, в любом случае, изменит ВСЁ.

Давайте внимательно разберем, как видят этот путь ведущие мыслители в этой области и почему эта революция может произойти быстрее, чем вы могли бы подумать.

Человечество и мир, который работает благодаря ANI

Специализированный Искусственный Интеллект (ANI) — это интеллект, превосходящий человеческий интеллект или эффективность в узкой области. Несколько примеров:

• Автомобили битком набиты системами ANI, от компьютеров, которые определяют, когда должна заработать антиблокировочная тормозная система, до компьютера, который определяет параметры системы впрыска топлива. Самоуправляемые автомобили Google, которые проходят испытания, будут содержать надежные системы ANI, которые будут воспринимать и реагировать на мир вокруг себя.
• Ваш телефон — маленькая фабрика ANI. Когда вы используете приложение гугл-карт, получаете рекомендации по скачиванию приложений или музыки из AppStore или PlayMarket, проверяете погоду на завтра, говорите с Сири или что вы там еще делаете со своим телефоном — вы взаимодейтсвуете с ANI.
• Спам-фильтр вашей электронной почты — классический тип ANI. Он начинает с общих правил выявления спама, учится в процессе и подгоняет свою работу под ваши потребности, привычки и предпочтения.
• Вы знакомы с этими назойливыми объявлениями «Рекомендовано для вас», которые вылезают в самых неожиданных местах на сайтах, которыми вы пользуетесь? Или когда Facebook вдруг предлагает вам принять в друзья неожиданного человека из вашего прошлого? Так работает сеть ANI-систем, работающих вместе и информирующих друг друга о том, кто вы и чем интересуетесь, чтобы показать вам релевантную информацию. Так же работает и эта штука на Амазоне «люди, которые купили этот же продукт, кроме того купили и это...». Работа ANI-системы состоит в том, чтобы проанализировать поведение миллионов людей и, обработав, так ее вам предоставить, чтобы подтолкнуть совершить больше покупок. (прим. ред.: так работает и цифровая диктатура под видом приложения Alipay в Китае)
• Google Translate — еще одна классическая система ANI, впечатляюще хороша в определенных вещах. Распознавание голоса — тоже. Когда ваш самолет садится, терминал для него определяет не человек. Цену билета — тоже. Лучшие в мире шашки, шахматы, нарды, балды и прочие игры сегодня представлены узконаправленными искусственными интеллектами.
• Поиск Google — это один гигантский ANI, который использует невероятно хитроумные методы для ранжирования страниц и определения результатов поисковой выдачи. То же работает и для ленты новостей Facebook и для подбора «возможных знакомых» в ВК.

И это — только мир потребителей. Сложные системы ANI широко используются в производстве, военном деле, финансах (на долю роботизированных ANI-трейдеров приходится более половины оборота фондового рынка США). Экспертные системы, помогающие докторам ставить диагноз, и наиболее известный из них — суперкомпьютер Ватсон. Все это — Специализированный Искусственный Интеллект (ANI).

Системы ANI в настоящем виде не представляют угрозы. В худшем случае глючный или плохо запрограммированный ANI может привести к локальному бедствию, создать перебои в энергоснабжении, обвалить финансовые рынки и тому подобное. Но хотя ANI не обладает полномочиями для создания экзистенциальной угрозы, мы должны видеть вещи шире — нас ждет сокрушительный ураган, предвестником которого выступает узконаправленный ИИ. Каждая новая инновация в сфере ANI добавляет один блок к дорожке, ведущей ко второму и третьему типам ИИ. Как хорошо заметил Аарон Саенц, специализированные ИИ нашего мира похожи на «аминокислоты первичного бульона юной Земли» — пока неживые компоненты жизни, которые однажды проснутся.

Путь от Специализированного к Общему Искусственному Интеллекту (ANI?AGI)

Почему это так сложно?

Ничто так не раскрывает сложность человеческого интеллекта, как попытка создать компьютер, который будет так же умен. Строительство небоскребов, полеты в космос, секреты Большого Взрыва — все это ерунда по сравнению с тем, чтобы повторить наш собственный мозг или хотя бы просто понять его. В настоящее время мозг человека — самый сложный объект в известной Вселенной.

Возможно, вы даже не подозреваете, в чем сложность создать AGI (компьютер, который будет умен, как человек, в общем, а не только в одной области). Создать компьютер, который может перемножать два десятизначных числа за долю секунды — проще простого. Создать такого, который сможет взглянуть на собаку и кошку и сказать, где собака, а где кошка — невероятно сложно. Создать ИИ, который может обыграть гроссмейстера? Сделано. Теперь попробуйте заставить его прочитать абзац из книги для шестилетних детей и не только понять слова, но и их значение. Google тратит миллиарды долларов, пытаясь это сделать. «Трудные» для нас задачи вроде сложных расчетов, анализ финансовых рынков, языковые переводы — просты для компьютера. «Простые» же задачи, такие как зрение, движение, восприятие — безумно трудны для него. Или, как говорит ученый, специалист по компьютерам, Дональд Кнут: «Искусственный интеллект преуспел сегодня во всем, что требует «мышления», но провалился в задачах, которые люди и животные делают, не задумываясь».

Когда вы задумаетесь о причинах этого, вы поймете, что вещи, которые кажутся нам простейшими в исполнении, только кажутся такими, потому что были оптимизированы для нас (и животных) в ходе сотен миллионов лет эволюции. Когда вы протягиваете руку к объекту, мышцы, суставы, кости ваших плеч, локтей и кистей мгновенно выполняют длинные цепочки физических операций, синхронных с тем, что вы видите, и движут вашу руку в трех измерениях. Вам это кажется простым, потому что за эти процессы отвечает идеальное "программное обеспечение" вашего мозга. Этот простой трюк позволяет сделать процедуру регистрации нового аккаунта с вводом криво написанного слова (капчи) простым для вас и адом для вредоносного бота. Для нашего мозга в этом нет ничего сложного: нужно просто уметь видеть.

С другой стороны, перемножение крупных чисел или игра в шахматы — новые виды активности для биологических существ, и у нас не было такого количества времени (миллионы лет), чтобы в достаточной мере натренировать способности к этим видам задач, так что компьютер без особого труда побьет нас на этом поле. Задумайтесь, что было бы легче: разработать программу, которая может перемножать большие числа, или программу, которая бы поняла обозначение буквы «Б» настолько хорошо, что смогла бы ее различить в любом из тысяч непредсказуемых шрифтов или почерке тысяч людей?

Вот вам один веселый пример: когда вы смотрите на эту картинку, то и вы и компьютер без труда разберетесь, что это — прямоугольник в двумя чередующимися оттенками:

Пока — счет равный. Но если вы поднимете черный лист, и откроете всю картинку:

… то вы без труда опишите эту головоломку из прозрачных и непрозрачных цилиндров, баранок и объемных уголков. А вот компьютер провалится на таком тесте. Он опишет то, что видит, как разнообразие двумерных форм в разных оттенках — что, в принципе, правда. Ваш мозг проделывает тонну работы, интерпретируя глубину, игру теней, свет на картинке. Ниже на картинке компьютер увидит двумерный бело-серо-черный коллаж, тогда как в действительности там трехмерный камень:

И все, о чем мы сейчас говорили, касается только статичной информации. Чтобы быть разумным, как человек, компьютер должен будет научиться распознавать незначительные оттенки выражений лица, различия между понятиями «удовлетворен», «довольный», «обнадежен» и «рад». И почему «Храброе Сердце» — крутой фильм, а «Патриот» — фигня на постном масле.

Это обескураживает.

Так что же, как нам проложить путь от ANI к AGI?

? Первый шаг к созданию AGI: увеличение вычислительной мощи

Первая вещь, которая обязательно должна произойти, чтобы AGI стал возможным — это увеличение мощности компьютерного железа. Чтобы ИИ смог настолько же разумным, как человеческий мозг, ему придется сравняться с мозгом по вычислительной мощности.

Один из способов увеличить эту характеристику заключается в общем числе вычислений в секунду (OPS, operations per second), которое может производить мозг. OPS можно рассчитать, если сложить скорость работы каждого отдела мозга.

Рэй Курцвейл разработал методику, по которой за основу берутся экспертные оценки скорости операций в одном из разделов мозга, а потом вес этого раздела сравнивается с весом всего мозга и пропорционально перемножается, чтобы вывести общую цифру. Звучит достаточно неуклюже, но он проделывал это много раз с разными оценками разных областей и всегда приходил к одному и тому же числу: порядка 10^16, или 10 квадриллионов операций в секунду.

Один из самых быстрых суперкомпьютеров в мире, китайский «Тяньхэ-2», уже обошел это число: он способен проделывать порядка 32 квадриллиона операций в секунду. Но «Тяньхэ-2» занимает 720 квадратных метров пространства, сжирает 24 мегаватта энергии (наш мозг потребляет всего 20 ватт) и стоит 390 000 000 долларов. О коммерческом или широком применении речь не идет.

Курцвейл предлагает, чтобы мы оценивали компьютеры, исходя из того, какую скорость (operations per second) мы приобретаем за $1000. И когда мы сможем приобрести за $1000 «человеческие» 10^16 OPS, вот тогда можно будет считать, что AGI сможет стать частью нашей повседневной жизни.

Закон Мура — исторически подтвержденное правило, гласит, что Мировая максимальная вычислительная мощность удваивается примерно за 2 года, означая, что развитие компьютерного железа, также, как и общее развитие человеческой цивилизации, происходит экспоненциально. По классификации Курцвейла (в разрезе «OPS за $1000») мы сейчас находимся на уровне 10 триллионов (10^13) OPS за $1000 и движемся по такой траектории:

Т.е. сегодняшние компьютеры за $1000 превосходят мышиный мозг, но их производительность составляет только около тысячной доли от человеческой. Это кажется плохим показателем, пока мы не вспомним, что компьютеры были в триллион раз слабее человеческого мозга в 1985 году, в миллиард — в 1995, и в миллион — в 2005. К 2025 году мы должны получить доступный компьютер, не уступающий по вычислительной мощи нашему мозгу.

Таким образом, по части железа вычислительная мощность, необходимая для реализации AGI, технически доступна сейчас в Китае. И мы можем рассчитывать, что доступное и широко распространенное железо уровня AGI появится в ближайшие несколько лет. Однако, вычислительная мощность сама по себе не сделает компьютер разумным — отсюда следующий вопрос: как мы объединим интеллект человеческого уровня и эту вычислительную мощность?

? Второй шаг к созданию AGI: сделать его разумным

Вот тут проблема. Дело в том, что никто наверняка не знает, как сделать компьютер разумным — ученые все еще спорят о том, как приблизить «интеллект» компьютера к человеческому уровню, то есть например объяснить, как отличить собаку от любого другого животного; распознать букву «Б», написанную на снегу; или отличить посредственное кино от отличного. Однако есть горстка дальновидных стратегий, и в один прекрасный момент одна из них должна сработать:

? 1. Скопировать человеческий мозг

Этот вариант похож на то, будто ученые сидят в одном классе с ребенком, который очень умен и хорошо отвечает на вопросы; и даже если они усердно пытаются постигать науку, они и близко не догоняют умницу-ребенка. В конечном итоге они решают: к черту, просто спишем ответы на вопросы у него. В этом есть смысл: мы не можем создать сверхсложный компьютер, так почему бы не взять за основу один из лучших прототипов вселенной: наш мозг?

Научный мир трудится в поте лица, пытаясь выяснить, как работает наш мозг и как эволюция создала такую сложную вещь. По самым оптимистичным оценкам, получится это у них только к 2030 году. Но как только мы поймем все секреты работы мозга, его эффективности и мощности, мы сможем вдохновиться его методами в создании технологий. К примеру, одной из компьютерных архитектур, которая имитирует работу мозга, является нейронная сеть. Она начинает с сети транзисторов «нейронов», соединенных друг с другом входом и выходом, и не знает ничего — как новорожденный. Система «обучается», пытаясь выполнять задания, распознавать рукописный текст и тому подобное. Связи между транзисторами укрепляются в случае правильного ответа и ослабляются в случае неверного. Спустя много циклов вопросов и ответов система образует умные нейронные переплетения, оптимизированные для выполнения определенных задач. Наш мозг обучается похожим образом, но в куда более сложной манере, и пока мы продолжаем изучать его, мы открываем новые невероятные способы улучшить нейронные сети.

Еще более экстремальный плагиат включает стратегию под названием «эмуляция полного мозга». Цель: нарезать настоящий мозг тонкими пластинками, отсканировать каждую из них, затем точно восстановить трехмерную модель, используя программное обеспечение, а затем воплотить ее в мощном компьютере. Тогда у нас будет компьютер, который официально сможет делать все, что может делать мозг: ему просто нужно будет обучаться и собирать информацию. Если у инженеров получится, они смогут эмулировать настоящий мозг с такой невероятной точностью, что после загрузки на компьютер настоящая личность мозга и его память останутся нетронутыми. Если мозг принадлежал Вадиму перед тем, как он умер, компьютер проснется в роли Вадима, который теперь будет AGI человеческого уровня, а мы, в свою очередь, займемся превращением Вадима в невероятно разумный ASI, чему он наверняка обрадуется.

Насколько мы далеки от полной эмуляции мозга? По правде говоря, мы только-только эмулировали мозг миллиметрового плоского червя, который содержит 302 нейрона в общей сложности. Мозг человека содержит порядка 100 миллиардов нейронов. Если вам попытки добраться до этого числа кажутся бесполезными, вспомните об экспоненциальных темпах роста прогресса. Следующим шагом станет эмуляция мозга муравья, затем будет мышь, а там и до человека недалеко.

2. Попытаться пройти по следам эволюции

Что ж, если мы решим, что ответы умного ребенка слишком сложны, чтобы их списать, мы можем попытаться пройти по его следам обучения и подготовки к экзаменам. Что мы знаем? Построить компьютер такой же мощный, как мозг, вполне возможно — эволюция нашего собственного мозга это доказала. И если мозг слишком сложен для эмуляции, мы можем попытаться эмулировать эволюцию. Дело в том, что даже если мы сможем эмулировать мозг, это может быть похоже на попытку построить самолет путем нелепого махания руками, повторяющего движения крыльев птиц. Чаще всего нам удается создать хорошие машины, используя машинно-ориентированный (механистический) подход, а не точное подражание биологии.

Как имитировать эволюцию, чтобы построить AGI? Этот метод под названием «генетические алгоритмы» должен работать примерно так: должен быть производительный процесс и его оценка, и это будет повторяться снова и снова (точно так же биологические существа «существуют» и «оцениваются» по их способности воспроизводиться). Группа компьютеров будет выполнять задачи, а самые успешные из них будут разделять свои характеристики с другими компьютерами, «выводиться». Менее успешные будут беспощадно выбрасываться на свалку истории. Через много-много итераций этот процесс естественного отбора позволит вывести лучшие компьютеры. Сложность заключается в создании и автоматизации циклов выведения и оценки, чтобы процесс эволюции шел сам по себе.

Минус такого метода в том, что эволюционные процессы длятся миллиард лет, а нам хотелось бы уложиться в пару десятилетий.

Но у нас есть масса преимуществ, в отличие от эволюции. Во-первых, у нее нет дара предвидения, она работает случайно — выдает бесполезные мутации, например, — а мы можем контролировать процесс в рамках поставленных задач. Во-вторых, у эволюции нет цели, в том числе и стремления к интеллекту — иногда в окружающей среде некоторый вид выигрывает не за счет интеллекта (потому что последний потребляет больше энергии). Мы же, с другой стороны, можем нацелиться на увеличение интеллекта. В-третьих, чтобы выбрать интеллект, эволюции необходимо произвести ряд сторонних улучшений — вроде перераспределения потребления энергии клетками, — мы же можем просто убрать лишнее и использовать электричество. Вне всяких сомнений, мы будем быстрее эволюции — но опять же, непонятно, сможем ли мы ее превзойти.

3. Сделать все это проблемой компьютера, не нашей

Это последний шанс, когда ученые совсем отчаиваются и пытаются запрограммировать программу на саморазвитие. Однако этот метод может оказаться самым перспективным из всех (прим. ред.: а может и нет). Идея в том, что мы создаем компьютер, у которого будет два основных навыка: исследовать ИИ и кодировать изменения в себе — что позволит ему не только больше узнавать, но и улучшать собственную архитектуру. Мы можем обучить компьютеры быть компьютерными инженерами самим себе,чтобы они саморазвивались. И их основной задачей будет выяснить, как стать умнее. Подробнее об этом мы еще поговорим.

Все это может случиться очень скоро

Стремительное развитие аппаратного обеспечения и эксперименты с программным обеспечением текут параллельно, и AGI может появиться быстро и неожиданно по двум основным причинам:

1) Экспоненциальный рост идет интенсивно, и то, что кажется черепашьими шагами, может быстро перерасти в семимильные прыжки — эта гифка хорошо иллюстрирует этот концепт:

2) Когда дело доходит до программного обеспечения, прогресс может казаться медленным, но затем один прорыв мгновенно меняет скорость продвижения вперед (хороший пример: во времена геоцентрического мировосприятия, людям было сложно рассчитать работу вселенной, но открытие гелиоцентризма все значительно упростило). Или, когда дело доходит до компьютера, который улучшает сам себя, все может казаться чрезвычайно медленным, но иногда всего одна поправка в системе отделяет ее от тысячекратной эффективности по сравнению с человеком или прежней версией.

Путь от Общего Искусственного Интеллекта к Сверхинтеллекту (AGI?ASI)

В определенный момент мы обязательно получим AGI — сильный искусственный интеллект, компьютеры с общим человеческим уровнем интеллекта. Компьютеры и люди будут жить вместе. Или не будут.

Дело в том, что AGI с таким же уровнем интеллекта и вычислительной мощности, что и человек, будет по-прежнему иметь значительные преимущества перед людьми. Например:

Железо

? Скорость. Нейроны мозга работают с частотой 200 Гц, в то время как современные микропроцессоры (которые значительно медленнее тех, что мы получим к моменту создания AGI) работают с частотой 2 ГГц, или в 10 миллионов раз быстрее наших нейронов. И внутренние коммуникации мозга, которые могут двигаться со скоростью 120 м/с, существенно уступают возможности компьютеров использовать оптику и скорость света.

Размер и хранение. Размер мозга ограничен размерами наших черепов, и он не может стать больше, в противном случае внутренним коммуникациям со скоростью 120 м/с потребуется слишком много времени, чтобы проходить от одной структуры к другой. Компьютеры могут расширяться до любого физического размера, задействовать больше оборудования, наращивать оперативную память, длительную память — все это выходит за рамки наших возможностей.

? Надежность и долговечность. У компьютера не одна лишь память точнее человеческой. Компьютерные транзисторы точнее биологических нейронов и менее склонны к ухудшению (да и вообще, могут быть заменены или отремонтированы). Мозги людей быстрее устают, компьютеры же могут работать без остановки, 24 часа в сутки, 7 дней в неделю.

Программное обеспечение

? Возможность редактирования, модернизации, более широкий спектр возможностей. В отличие от человеческого мозга, компьютерную программу можно легко исправить, обновить, провести эксперимент с ней. Модернизации могут также подвергаться зоны, в которых человеческие мозги слабы. Программное обеспечение человека, отвечающее за зрение, великолепно устроено, но с точки зрения инженерии его способности все же весьма ограничены — мы видим только в видимом спектре света.

Коллективная способность. Люди превосходят другие виды в плане грандиозного коллективного разума. Начиная с развития языка и формирования крупных сообществ, двигаясь через изобретения письма и печати и в настоящее время активизируясь с помощью таких инструментов, как интернет, коллективный разум людей является важной причиной, по которой мы можем мнить себя венцом эволюции. Но компьютеры все равно будут лучше. Всемирная сеть искусственных интеллектов, работающих на одной программе, постоянно синхронизирующихся и саморазвивающихся, позволит мгновенно добавлять в базу новую информацию, где бы ее ни достали. Такая группа также сможет работать над одной целью, как одно целое, потому что компьютеры не страдают от наличия особого мнения, мотивации и личной заинтересованности, как люди.

ИИ, который, вероятнее всего, станет AGI посредством запрограммированного самосовершенствования, не увидит «интеллект человеческого уровня» как важную веху — эта веха важна только для нас. У него не будет никаких причин останавливаться на этом сомнительном уровне. А учитывая те преимущества, которыми будет обладать даже AGI человеческого уровня, довольно очевидно, что человеческий интеллект станет для него короткой вспышкой в гонке за превосходством в интеллектуальном плане.

Такое развитие событий может нас весьма и весьма удивить. Дело в том, что, с нашей точки зрения, а) единственный критерий, который позволяет нам определять качество интеллекта, это интеллект животных, который по умолчанию ниже нашего; б) для нас самые умные люди ВСЕГДА умнее самых глупых. Примерно так:

То есть пока ИИ просто пытается достичь нашего уровня развития, мы видим, как он становится умнее, приближаясь к уровню животного. Когда он доберется до первого человеческого уровня — Ник Бостром использует термин «деревенский дурачок», — мы будем в восторге: «Ух ты, он уже как дебил. Круть!». Единственное но заключается в том, что в общем спектре интеллекта людей, от деревенского дурачка до Эйнштейна, диапазон невелик — поэтому после того, как ИИ доберется до уровня дурачка и станет AGI, он внезапно станет умнее Эйнштейна:

И что будет дальше?

Взрывное развитие ИИ

Надеюсь, вам было интересно и весело, потому что именно с этого момента обсуждаемая нами тема становится ненормальной и жуткой. Нам стоит сделать паузу и напомнить себе, что каждый указанный выше и дальше факт — реальная наука и реальные прогнозы на будущее, высказанные самыми выдающимися мыслителями и учеными. Просто имейте в виду.

Итак, как мы обозначили выше, все наши современные модели по достижению AGI включают вариант, когда ИИ самосовершенствуется. И как только он становится AGI, даже системы и методы, с помощью которых он вырос, становятся достаточно умны, чтобы самосовершенствоваться — если захотят. Возникает интересное понятие: рекурсивное самосовершенствование. Работает оно примерно так.

Некая система ИИ на определенном уровне — скажем, деревенского дурачка — запрограммирована на улучшение собственного интеллекта. Развившись — скажем, до уровня Эйнштейна, — такая система начинает развиваться уже с интеллектом Эйнштейна, ей требуется меньше времени на развитие, а скачки происходят все большие. Они позволяют системе превзойти любого человека, становятся все больше и больше. По мере быстрого развития, AGI взмывает до небесных высот в своей интеллектуальности и становится сверхразумной системой ASI. Этот процесс называется взрывом интеллекта — и это ярчайший пример закона ускоряющейся отдачи.

Ученые спорят о том, как быстро ИИ достигнет уровня AGI — большинство считает, что AGI мы получим к 2040 году, всего через 25 лет, что очень и очень мало по меркам развития технологий. Продолжая логическую цепочку, нетрудно предположить, что переход от AGI к ASI тоже состоится крайне быстро. Примерно так:

Развитие до нижней границы человеческого уровня разума займёт у ИИ десятилетия. Компьютер будет понимать окружающий его мир примерно так же как 4-х летний ребёнок. Потом, неожиданно, примерно через час, система выдаст великую теорию физики, которая объединяет общую теорию относительности и квантовую механику, чего не может сделать ни один человек. 90 минут спустя ИИ станет искусственным Сверхразумом в 170 000 раз умнее человека.

Чтобы охарактеризовать Сверхразум такого масштаба, у нас даже не найдется подходящих терминов. В нашем мире «умный» означает человека с IQ 130, «глупый» — 85, но у нас нет примеров людей с IQ 12 952. Наши линейки на такое не рассчитаны.

История человечества говорит нам ясно и четко: вместе с интеллектом появляется власть и сила. Это значит, что когда мы создадим искусственный сверхинтеллект, он будет самым мощным созданием в истории жизни на Земле, и все живые существа, включая человека, будут всецело в его власти — и это может случиться уже через двадцать лет.

Если наши скудные мозги были в состоянии придумать Wi-Fi, то что-то умнее нас в сто, тысячу, миллиард раз с легкостью сможет рассчитать положение каждого атома во вселенной в любой момент времени. Все, что можно назвать магией, любая сила, которую приписывают всемогущему божеству, — все это будет в распоряжении ASI. Создание технологии, обращающей вспять старение, лечение любых болезней, избавление от голода и даже смерти, управление погодой — все внезапно станет возможным. Также возможен и моментальный конец всей жизни на Земле. Умнейшие люди нашей планеты сходятся во мнении, что как только в мире появится искусственный сверхинтеллект, это ознаменует появление бога на Земле. И остается важный вопрос.

Будет ли он добрым богом?

По материалам waitbutwhy.com, компиляция Тима Урбана. В статье использованы материалы работ Ника Бострома, Джеймса Баррата, Рэя Курцвейла, Джея Нильс-Нильссона, Стивена Пинкера, Вернора Винджа, Моше Варди, Расса Робертса, Стюарта Армстрога и Кая Сотала, Сюзан Шнайдер, Стюарта Рассела и Питера Норвига, Теодора Модиса, Гари Маркуса, Карла Шульмана, Джона Серля, Джарона Ланье, Билла Джоя, Кевина Кели, Пола Аллена, Стивена Хокинга, Курта Андерсена, Митча Капора, Бена Герцел, Артура Кларка, Хьюберта Дрейфуса, Теда Гринвальда, Джереми Говарда.

Источник: m.vk.com

Комментарии: