Помните, как недавно компьютер прошел тест Тьюринга? Давайте уже разберемся с тем, что такое сверхинтеллект, чего нам от него ждать и куда вообще ведут нас все эти компьютерные технологии

Помните, как недавно компьютер прошел тест Тьюринга? Давайте уже разберемся с тем, что такое сверхинтеллект, чего нам от него ждать и куда вообще ведут нас все эти компьютерные технологии. В этом посте перевод сразу 2х частей статьи, так и знайте.

Написал fluidkarma, 10 Марта 2015 в 10.04 на interpreted . 146850  

«Мы на пороге технологической революции, сравнимой с возникновением человеческой жизни на Земле.»
- Вернор Виндж

И каково это стоять на пороге технологической революции?

Это, должно быть, так волнующе, но вспомните один важный нюанс: когда вы стоите на временном графике функции, вы не видите, что находится справа от вас. На самом деле, стоять на пороге технологической революции - это вот так:

И по ощущениям, скорее всего, в этом нет ничего особенного...

Представьте, как вы отправляетесь с помощью машины времени в 1750 год. Время, где постоянно отключен свет, а для коммуникации на дальних расстояниях требуется либо кричать, либо стрелять в воздух из пушки, а весь транспорт заправляется сеном. Вот вы оказались там и первым же делом берете чувака и привозите его обратно в 2015, водите его по разным местам и наблюдаете за его реакцией. Невозможно даже представить, что он ощущает, впервые видя мчащиеся по шоссе блестящие капсулы, каково это - поговорить с людьми, которые находятся на другом конце света, посмотреть спортивный матч, который проводится в тысячах километрах от него, послушать музыкальное выступление, записанное полвека назад. Потом мы дадим ему поиграться с волшебным прямоугольником, с помощью которого он может запечатлеть движущиеся изображения, начертить карту с загадочной голубой точкой, которая указывает его местоположение, увидеться и поболтать с кем-то, кто находится на другом конце света и сотворить еще много других чудес. И все это до того, как вы начнете ему объяснять, что такое интернет, международная космическая станция, адронный коллайдер, ядерное оружие и общая теория относительности.

Все это не просто бы удивило и шокировало его, парень мог бы просто умереть.

Но вот любопытная штука - если бы потом этот же чувак отправился обратно в свой 1750 и из чувства зависти решил удивить кого-то так же как мы удивили его, и привез парня из 1500, то тот, конечно, удивился бы множеству вещей, но точно бы не умер. Для него такой опыт не стал бы шокирующим приключением, потому что хотя 1750 и 1500 были разными, они не были настолько разными, как 1750 и 2015. Парень из 1500, конечно, узнал бы поразительные вещи о пространстве и физике и был бы удивлен тому, как сильно Европу охватили ее империалистические причуды, а также ему пришлось бы значительно переосмыслить карту мира. Но повседневная жизнь - передвижение, коммуникации и т.п. явно бы его не убили.

Теперь, для того, чтобы парню из 1750 позабавиться с кем-то как мы повеселились с ним, ему придется отправиться в более раннюю эпоху, где-то в 12000 до нашей эры, до первой аграрной революции, которая заложила фундамент в развитии первых городов и цивилизаций. Если бы кто-то из эпохи охоты и собирательства увидел человеческую империю с возвышающимися соборами, кораблями пересекающими океаны, и все накопленные знания и открытия, то он бы, скорее всего, умер.

Что если после смерти он бы из зависти решил сделать то же самое с кем-то из прошлого, отправился бы в 24000 год до н.э. и взял оттуда человека, показал бы ему все, и тот бы сказал: «Ну норм, мне-то что?». Для того, чтобы парню из 12 века до н.э. провернуть подобное, ему потребовалось бы отправиться еще на 100 000 лет в прошлое и продемонстрировать там вербальную коммуникацию и огонь.

Таким образом, для того, чтобы умереть, испытывая шок от увиденного им прогресса, нужно отправиться в будущее на столько лет вперед, чтобы достичь единицы «смертельный уровень прогресса» (ЕСП). Во времена охоты и собирательства ЕСП равнялась 100000 лет, но после аграрной революции она стала равняться всего 12000 лет, а в результате постиндустриальной революции мир стал развиваться так быстро, что человеку из 1750 года нужно отправиться всего на пару столетий вперед, чтобы достигнуть ЕСП.

Такую модель, при которой человеческий прогресс движется быстрее с каждым годом, футуролог Рэймонд Курцвейл назвал Законом ускоряющейся отдачи. Все просто: так происходит, потому что более развитому обществу требуется меньше времени для прогресса, чем менее развитому. В 19 веке человечество знало больше и обладало более совершенными технологиями, чем в 15, люди 15 века не выдержали бы никакой конкуренции с людьми 19 века.

Это правило работает и в меньших масштабах. Фильм «Назад в Будущее» вышел в 1985 году, по сюжету «прошлое» разворачивалось в 1955 году. Оказавшись в 1955 году, герой Майкла Джея Фокса удивляется ценам на газировку, устаревшим телепрограммам и различиям в сленге. Да, для него это был другой мир, но если бы герою пришлось отправиться из сегодняшнего дня в 1985, то в картине было бы больше шуток, связанных с отличиями. Герой попал бы в мир без персональных компьютеров, интернета и мобильной связи. Сегодняшний Марти Макфлай, тинэйджер родившийся в 90х, ощущал бы себя не в своей тарелке в 1985 куда сильнее, чем киношный Марти Макфлай ощущает себя в 1955.

По этой самой причине я упомянул о Законе ускоряющейся отдачи. Средний темп развития между 1985 и 2015 намного выше, чем между 1955 и 1985. Первый промежуток охватывает стремительный рост в развитии, намного больше перемен произошло за последние 30 лет, чем за 30 лет до них.

Выходит, темп прогресса только ускоряется. Это значит, что наше будущее будет крутым, верно?

Курцвейл считает, что все достижения XX века уместились бы в 20 лет при темпе развития 2000 года, иными словами, к 2000 году темп развития был в 20 раз выше, чем средний темп развития в XX веке. Он также считает что прогресс, сопоставимый со всеми достижениями прошлого века, произошел в период между 2000 и 2014 и такой же совокупный результат повторится в следующий раз к 2021 году, всего через 7 лет. Спустя пару десятилетий достижения, сопоставимые с суммарным прогрессом XX века, будут повторяться несколько раз в год, а еще позже - вообще каждый месяц. В конечном итоге, согласно Закону ускоряющейся отдачи, XXI век превысит прогресс XX века в 1000 раз.

Если Курцвейл и все, кто с ним соглашаются, правы, то мы будем также шокированы 2030 годом, как наш паренек из 1750 был шокирован в 2015. То есть следующая ЕСП займет 20 лет, и мир в 2050 будет настолько отличен от нынешнего, что мы его просто не узнаем.

И это не научная фантастика. В это твердо верят многие ученые, которые поумнее нас будут. Если взглянуть на историю, именно такое предсказание будущего наиболее логично.

Конечно, вы мне не поверите, если я скажу, что через 35 лет мир будет неузнаваем. И вот по каким причинам:

1) Когда дело доходит до истории, мы мыслим прямыми линиями. Мы представляем себе прогресс следующих 30 лет, воспринимая прогресс предыдущих 30 лет как на некий общий ориентир. Размышляя о том, как изменится мир за это столетие, мы просто думаем обо всех достижениях XX века и прибавляем некий их эквивалент к 2000 году. Эту же ошибку совершил парень из 1750, когда привез первого чувака из прошлого в надежде потрясти его так же, как был потрясен он сам, когда побывал в будущем. Линейное мышление является для нас интуитивным, в то время как нам следует думать экспоненциально. Тот, кто оказался поумнее, сможет предсказать прогресс следующих 30 лет, принимая в расчет нынешний темп развития и отталкиваясь уже от него. Его предсказание оказалось бы более точным, но все равно весьма далеким от истины. Чтобы думать о будущем правильно, следует представлять себе более высокие скорости развития, чем те, при которых мы живем сейчас.

2) Линия движения новейшей истории часто приводит к путанице. Во-первых, даже крутая экспонента кажется прямой, если смотреть на очень короткий ее отрезок. Во-вторых, экспоненциальный рост не идеально гладок и однороден. По мнению Курцвейла, прогресс происходит в S-образных кривых:

S создается волной прогресса, которая наступает с образованием новой парадигмы. Изгиб проходит три фазы:

медленный рост (ранняя фаза экспоненциального роста);
быстрый рост (поздняя, взрывная фаза экспоненциального роста);
выравнивание (созревание новой парадигмы).

Часть кривой, в которой мы сейчас находимся, может запутать ваше восприятие того, как быстро все развивается. На промежуток времени между 1995 и 2007 пришелся взрыв развития интернета, появление в общественном сознании Microsoft, Google, Facebook, рождение социальных сетей и появление мобильных телефонов, а затем и смартфонов. Это все было второй фазой - скачком в росте. Период с 2008-го по 2015-й был менее новаторским, по крайней мере, в технологическом плане. Кто-то, думая о будущем сегодня, может рассматривать только последние несколько лет для оценки текущего уровня развития и не видит картину целиком. По сути, новая фаза скачка в росте может назревать снова прямо сейчас.

3) Наш собственный опыт превращает нас в упрямых стариков в вопросах о будущем. Наши представления о мире основываются на личном опыте. Этот опыт укоренил в голове представление о темпах роста недавнего прошлого как нечто абсолютное. Мы также ограничены нашим воображением, которое опирается на наш опыт при составлении прогнозов на будущее. Но часто то, что мы знаем, не предоставляет нам необходимый инструментарий, позволяющий верно мыслить о будущем (Курцвейл приводит в пример свой телефон, который в миллион раз меньше, миллион раз дешевле и в тысячи раз мощнее чем был его MIT компьютер 40 лет назад). Теперь попробуйте представить, с какими технологиями мы будем иметь дело в сравнительном будущем. Когда мы слышим прогнозы о будущем, которые идут вразрез с нашим, основанным на личном опыте представлением о том, как устроены вещи, мы инстинктивно думаем, что предсказания наивны. Если бы я вам в этом посте сказал, что вы, может быть, проживете 150 или 250 лет, а может и вообще не умрете, то ваш инстинкт скажет: «Это бред, одно я знаю наверняка из всей истории - все в итоге умирают». И это верно, ведь никто в прошлом не избежал смерти. Но и самолеты не летали, пока их не изобрели.

Так что пока вы думаете про себя «даааа нуууу» читая этот пост, вы, возможно, зря сомневаетесь. Суть в том, что пока мы хотим рассуждать по-настоящему логически и ожидаем, что историческая последовательность продолжится, мы должны прийти к заключению, что с последующими десятилетиями изменится намного больше всего, чем мы ожидаем. Логично также, что если самые развитые существа на планете продолжат делать все более высокие скачки в темпах своего развития, то в какой-то момент они коренным образом изменят жизнь и собственное восприятие себя как людей. Подобно тому, как эволюция делала большие скачки на пути к разумным существам, пока в конечном итоге не сделала такой большой скачок до хомо сапиенса, который полностью изменил жизнь на Земле. Если вы следите за тем, что происходит в мире науки и технологий сегодня, то вы начнете замечать множество вещей, указывающих на то, что привычный жизненный ход вещей, возможно, не выдержит следующий скачок.

Что такое ИИ?

Если вы похожи на меня, то для вас искусственный разум - это выдумка из мира фантастики, и вы не до конца понимаете суть, когда слышите, как это обсуждают серьезные ученые.

Есть несколько причин, по которым людей смущает термин ИИ.

1) Мы связываем его с фильмами. Звездные войны, Терминатор, Космическая одиссея-2001 с вымышленными персонажами - роботами, которые заставляют нас думать об ИИ как о каком-то художественном вымысле.

2) ИИ - очень широкая тема. Он может быть представлен как в виде калькуляторов, так и в виде самоуправляемых автомобилей или даже чего-то, что в будущем сильно изменит нашу жизнь. ИИ относится ко всем этим вещам, что и приводит к путанице.

3) Мы пользуемся им в повседневной жизни, не осознавая того, что это искусственный интеллект. Джон Маккарти, который в ввел термин "искусственный интеллект" в 1956 году, жаловался: "Стоит ему действительно заработать, как все сразу перестают называть его ИИ." Из-за этого феномена термин звучит больше как нечто из разряда фантастики. В тоже время это звучит и как популярная концепция, которая так и не была реализована. Курцвейл говорил, что часто слышит, как люди говорят что идея ИИ изжила себя еще в 80-х, таких людей он сравнивает с теми, кто утверждает, что интернет умер с пузырем доткомов.

Итак, давайте внесем некую ясность. Первым делом перестаньте думать о роботах. Робот - это всего лишь оболочка ИИ, которая иногда подражает человеческому образу, но ИИ - это только компьютер внутри робота. ИИ - это мозг, а робот - это тело, если оно вообще есть. Например, помощник в iOS Siri (которая, кстати, скоро заговорит по-русски - прим. пер. ) - это ИИ, а женский голос - это персонификация ИИ, и при этом нет никакого робота.

Во-вторых, вы наверное слышали термин «сингулярность» или «технологическая сингулярность». Этот термин используется в математике, чтобы описать ситуацию, при которой обычные законы уже не действуют. В физике он используется для того, чтобы описать феномены вроде черной дыры или состояния, в котором пребывала Вселенная до Большого Взрыва. В 1993-м году Вернор Виндж использовал этот термин в своем знаменитом эссе, чтобы описать поворотный момент в истории, когда искусственный интеллект превысит человеческий, то есть жизнь изменится, и обычные правила будут неприменимы. Рэй Курцвейл потом еще немного запутал все, определив сингулярность как момент, когда ускоряющаяся отдача достигнет такого пика, при котором технологический прогресс начнет происходить в бесконечном темпе, после чего мы будем жить в совершенно ином мире. Как я заметил, сегодняшние исследователи ИИ не особо прибегают к этому термину, в любом случае он всех запутывает, так что я не буду приводить его здесь часто (хотя мы сосредоточим наше внимание на этой идее на протяжении всего текста).
Наконец, существует множество различных видов и форм ИИ, и, как мы уже решили - это в целом очень широкое понятие. Критические категории, которыми нам следует мыслить в вопросах ИИ, можно разделить на три основных уровня:

1) Слабый Искусственный Интеллект (ANI) - это такой ИИ, который специализируется в одной области. Есть ИИ, способный победить в чемпионате мира по шахматам, но это все, что он умеет. Скажи ему организовать информацию на жестком диске удобным способом, и он посмотрит на тебя пустым 1010101-взглядом.
2) Сильный Искусственный Интеллект (AGI), также известный как ИИ человеческого уровня, - это компьютер, способный решить любую умственную задачу, которую способен решить человек. Создать AGI намного сложнее, чем ANI, и нам это только предстоит сделать. Профессор Линда Готтфредсон описывает интеллект как «очень общую психическую способность, которая, помимо всего прочего, включает в себя способность рассуждать, планировать, решать проблемы, мыслить абстрактно, понимать сложные идеи, быстро учиться и учиться на опыте» AGI будет справляться со всем этим с такой же легкостью, как и вы.
3) Искусственный сверхинтеллект (ASI). Оксфордский философ и ведущий мыслитель в области ИИ Ник Бостром определяет ASI как «интеллект, который намного умнее лучших человеческих умов практически в любой сфере, в том числе научного творчества и социальных навыков». ASI, в свою очередь, варьируются от компьютеров, которые немного умнее человека, до тех, которые превышают возможности человеческого разума по всем направлениям в триллионы раз. ASI - причина по который ИИ - настолько острая тема, что в этом посте скоро появятся слова «аморальность» и «вымирание».

На сегодняшний день люди покорили ИИ только самого мелкого калибра, ANI, и теперь они повсюду. Революция Искусственного интеллекта - это путь от ANI через AGI к ASI. Дорога, которую мы переживем, а может и нет, но в любом случае она изменит абсолютно все.

Давайте внимательно посмотрим на то, каким видят этот путь ведущие мыслители в этой области и почему эта революция может произойти намного раньше, чем вы могли бы себе представить:


Сейчас весь мир работает на ANI

ANI, слабый ИИ - это такой искусственный интеллект, который равен или превышает человеческий интеллект или производительность только в одной конкретной сфере.

Вот несколько примеров:

Автомобили напичканы системами ANI - от компьютера, который просчитывает, когда включать антиблокировочную тормозную систему, до компьютеров, которые настраивают параметры системы впрыскивания топлива. Самоуправляемый автомобиль Google, который сейчас тестируется, будет содержать мощные ANI системы, которые позволят автомобилю воспринимать окружение и вовремя на него реагировать.

Ваш телефон - это небольшая фабрика ANI. Когда вы используете навигацию, определяете автора песни с помощью Shazam или проверяете погоду на завтра, болтаете с Siri или совершаете десятки других операций, вы используете ANI.

Спам-фильтр на вашей электронный почте - классический тип ANI, он начинает работу с предустановленной возможностью распознавать спам и затем учится и адаптирует свой интеллект под ваши конкретные предпочтения.

Знаете это жутковатую тему, когда вы ищете товар на Amazon, а затем этот товар вам рекомендуют на совсем другом сайте. Или когда Facebook понимает, кого стоит советовать для добавления в друзья. Это целая сеть ANI-систем, которые работают вместе, чтобы собрать необходимую информацию о вас и решить, что показывать в дальнейшем. Так же на сайтах работает функция «Люди, купившие этот товар, также купили это», чтобы повышать продажи и заставлять вас покупать больше.

Google-переводчик - еще один классический ANI, который очень хорошо справляется с одной задачей. Распознавание голоса - это уже другой ANI, но многие программы используют их вместе, что позволяет вам произнести целое предложение, и ваш телефон воспроизводит его уже на другом языке.

Когда ваш самолет приземляется, то не человек выбирает выход на посадку, и не человек определил стоимость вашего билета.

Лучшие игроки в шахматы, шашки, нарды и скрэббл теперь ANI-системы.

Поиск Google - это одна большая ANI со сложными методами отбора порядка страниц, которая решает, что вам показать по вашему запросу в первую очередь.

И все это только из сферы потребления, ANI-системы широко применяются в военной технике, производстве и финансах (алгоритмические высокочастотные ИИ-трейдеры продают больше половины пакетов акций на рынках США). Существуют экспертные системы, которые помогают врачам ставить верные диагнозы. Вспомните Ватсона от IBM, который содержал достаточное количество фактов и хорошо понимал речь Алекса Требека (телеведущего), что обыграл всех чемпионов Своей Игры (их аналога, нашего Петра Кулешова никто из ANI пока не обыгрывал).

Современные ANI-системы не такие уж страшные. В худшем случае глюченная или плохо спрограммированная ANI может вызвать локальную катастрофу, например, отключение энергосистем на атомной электростанции или спровоцировать обрушение рынка (вспомните Черный вторник 6 мая 2010, когда ANI неправильно отреагировала на неожиданную ситуацию, что привело к резкому обвалу биржевого рынка).

Пока ANI еще не представляют угрозу нашему существованию, нам следует понять всю эту большую и сложную систему относительно безобидных компьютеров, так как они предвещают надвигающийся ураган, который полностью изменит мир. Каждая отдельная инновация ANI закладывает новый кирпичик в дороге к ASI. Эрон Саенз сравнивает роль систем ANI в современном мире с «аминокислотам в первичном бульоне Земли», материалом, который в конечном итоге привел к возникновению живой клетки.

Почему она так трудна

Ничто не заставит вас ценить человеческий разум больше, чем осознание того, насколько сложно создать компьютер, который был бы так же умен, как и мы. Строительство небоскребов, запуск космических ракет, объяснение Большого Взрыва не так сложны, как изучение работы нашего мозга и создание чего-то столь же крутого. В настоящее время человеческий мозг является самым сложным объектом из известных нам во всей Вселенной.

Забавно, что настоящие трудности при создании сильного искусственного интеллекта (AGI) сильно отличаются от тех, что приходят к нам на ум в первую очередь. Разработать компьютер, который может умножить два десятизначных числа за секунду, невероятно легко. Куда сложнее разработать компьютер, который, взглянув на собаку, смог бы определить, что это не кошка. Разработать ИИ, способный выиграть у любого человека в шахматы? Да проще простого. Разработать ИИ, который будет способен прочитать предложение под картинкой в книжке для пятилетних детей, при этом не просто распознать слова, но и понять их смысл - куда сложнее. Google сейчас тратит миллиарды долларов, чтобы сделать нечто подобное. Тяжелые вещи вроде стратегий финансовых рынков, статистических вычислений и переводов на другие языки безумно легко даются компьютерам, тогда как простые вещи вроде зрения, движения и восприятия ужасно сложны для них. Как однажды сказал ученый Дональд Кнут: "ИИ преуспели почти во всем, что требует мышления, но не могут сделать большую часть того, что люди и животные делают не задумываясь".

К нам быстро приходит осознание того, что вещи, которые кажутся нам простыми, на самом деле невероятно сложны. Они кажутся нам легким только лишь, потому что эти навыки развила в нас эволюция за сотни миллионов лет. Когда ты тянешься рукой до предмета, то мускулы, сухожилия и кости в твоем плече локте и запястье в сочетании с глазами мгновенно выполняют длинную серию операций, чтобы позволить вашей руке сделать прямое движение сквозь три измерения. Это кажется легким только потому, что вы идеально отладили программное обеспечение в вашем мозгу для этой задачи. По такому же принципу можно сказать, что не вредоносные программы тупые, раз не могут разгадать эти дурацкие капчи, которые вам приходится вводить для регистрации на новом сайте, а наоборот, ваш мозг настолько потрясающий, что может легко с ними справиться.

С другой стороны, умножение больших чисел и игра в шахматы - это новые задачи для биологических существ, у нас просто не было достаточно времени, чтобы развить навыки для них, поэтому компьютер так легко нас в этом обходит. Подумайте, что бы вы сделали - программу, которая может умножать огромные числа или ту, которая понимала бы суть буквы -Й- достаточно хорошо, чтобы уметь распознать ее в миллионах вариаций шрифтов и почерков.
Вот один забавный пример - когда вы смотрите на это изображение, и вы, и компьютер легко понимаете, что перед вами прямоугольник в двух чередующихся оттенках:

Пока ничья. Но если вы уберете черный цвет и раскроете всё изображение...

- у вас не возникнет проблем с описанием полупрозрачных цилиндров и трехмерных углов, но компьютер здесь с треском провалится. Он бы описал то, что видит, как разнообразие различных двухмерных форм в нескольких оттенках, что там по сути и изображено. Ваш мозг проделывают кучу офигительной работы для того, чтобы толковать подразумеваемую глубину, смешение оттенков, пространственное освещение, которые изображены на картинке. На фотографии снизу компьютер видит двухмерный коллаж из черного и белого, в то время как вам сразу понятно, что на ней изображен черный камень:

И все, что мы только что упомянули, касается только принятия и обработки статичной информации. Чтобы быть разумным, как человек, компьютеру нужно считывать и понимать разницу между выражениями лиц, видеть различия между ощущениями довольства, облегчения, удовлетворения и радости, и понимать, почему «Храброе сердце» хороший фильм, а любой фильм Уве Болла - ужасный. Ну, почти любой, правда.

Жутковато.

Так как же нам с этим справиться?

Первый шаг на пути к созданию AGI (сильного ИИ) - увеличение вычислительных мощностей.

Для того, чтобы создание AGI стало возможным, безусловно, должна произойти одна вещь - увеличение мощности компьютерной техники. Чтобы система AGI была такой умной, как человеческий мозг, ей нужно сравняться с вычислительной мощностью мозга.

Один из способов выражения этой способности мозга - сумма вычислений в секунду (Герц) которые может совершить мозг. Чтобы вычислить это выражение, нужно определить максимальную частоту герц отдельно в каждой зоне головного мозга и затем сложить их.
Рэй Курцвейл нашел более быстрый способ вычислить это общее значение. Он предлагает измерять частоту герц отдельной зоны мозга и вес этого участка и умножить результат пропорционально весу всего мозга. Звучит немного сомнительно, но он проделывал это множество раз, измерял отдельные зоны мозга и общее количество всегда приходило приблизительно к одному и тому же результату - около 10 в 16й степени, 10 квадриллионов герц.

В настоящее время самый быстрый супер-компьютер в мире, китайский
Тяньхэ-2 , превысил этот результат с тактовой частотой около 34 квадриллионов Гц. Но эта железяка занимает площадь в 720 квадратных метров, потребляет 24 мегаватта электроэнергии, в то время как человеческий мозг всего 20 ватт, да и мозг стоит не 390 миллионов долларов. Согласитесь, он не особо подходит для широкого применения, да и для большинства областей промышленного производства.

Курцвейл предлагает рассматривать компьютеры из расчета уровень мощности, доступный за 1000 долларов. Как только этот уровень достигнет человеческого - 10 квадриллионов герц, тогда это будет значить, что AGI могут стать реальной частью нашей повседневности.
Закон Мура - исторически надежное правило, согласно которому максимальная вычислительная мощность в мире удваивается приблизительно каждые 2 года, то есть развитие компьютерных технологий, как и развитие человечества, растет в геометрической прогрессии. Разберемся, что имел ввиду Курцвейл, говоря про тысячу долларов с помощью этой таблицы:

Компьютеры, которые сейчас стоят 1000 долларов, по своей мощности равны мышиному мозгу и в тысячу раз меньше человеческого. Это не кажется чем-то серьезным, до тех пор пока вы не вспомните, что такая компьютерная мощность составляла триллионную от уровня мозга в 1985 году, миллиардную в 1995 и миллионную в 2005. То есть на данном этапе мы можем ожидать, что к 2025 году мы сможем позволить себе компьютер, конкурирующий с мозгом.

В плане железа и оборудования, энергия, необходимая для AGI, технически уже доступна сейчас в Китае и станет общедоступной через каких-то 10 лет. Но такая сырая вычислительная мощность сама по себе не делает компьютер умнее, так что следующий вопрос - как привнести человеческий интеллект во всю это мощность?

Второй шаг к AGI (сильному ИИ) - сделать его умным.

Достаточно противная часть. Правда заключается в том, что никто на самом деле не знает, как сделать его умным. Мы до сих пор гадаем, как заставить компьютер отличать собаку от кошки, распознавать странно написанную букву Й и понимать, что фильм так себе. Существует куча замысловатых стратегий, и в конечном итоге какая-то из них окажется действенной. Здесь я представлю 3 самых популярных подхода:

1) Плагиат мозга

Это как если бы ученые бесились от того, что у соседа по парте получается писать все контрольные на пять, а у них при всем усердии это и близко не получается. В конце концов они решают: «Ладно, плевать, мы просто спишем у него все ответы». И это не лишено смысла, мы мучаемся, чтобы создать совершенный компьютер, тогда как в голове у нас есть идеальный прототип для него.

Научный мир работает над обратным конструированием мозга, чтобы понять, как эволюции удалось сделать такую крутую вещь. По самым оптимистичным прогнозам, работу завершат к 2030 году. После того, как это произойдет, мы откроем все секреты нашего мозга и сможем, вдохновляясь этим, украсть все его инновации. Искусственная нейронная сеть является ярким примером компьютерной архитектуры, которая имитирует мозг. Она представляет собой сеть транзисторов - «нейронов», соединенных между собой, но изначально ей ничего не известно, подобно мозгу младенца. Способ, по которому она «учится», заключается в том, что сначала она пытается выполнить задание, например, распознать почерк, поначалу нейронные импульсы и догадки в расшифровке каждой отдельной буквы будут абсолютно случайными. Но когда ей скажут, что она сделала это верно, соединения транзисторов в последовательности, которая помогла найти правильное решение, станут крепче, если же наоборот, ответ будет неверным, они ослабнут. После долгого процесса таких случайных попыток и их оценки, сеть, сама по себе, формирует «умные» нервные пути и машина становится оптимизированной для выполнения этой задачи. Мозг учится подобным, но более сложным образом. С продолжением исследований мозга нам открываются все новые способы использования нейронной системы.

Более кардинальный плагиат включает в себя стратегию, которую можно было бы назвать «эмуляция всего мозга». Для это требуется разрезать реальный мозг на микрослои, сканировать каждый, использовать программное обеспечение, чтобы собрать точную реконструированную 3D-модель и затем реализовать ее в мощном компьютере. В таком случае у нас появился бы компьютер, способный на все то, на что способен и человеческий мозг. При самом удачном раскладе ученым удалось бы эмулировать реальный мозг с такой точностью, что личность и память человека, которому принадлежал мозг, остались бы нетронутыми при загрузке архитектуры мозга на компьютер. Условно говоря, мозг принадлежал Джиму, после смерти его сканировали и загрузили на компьютер, который проснулся бы Джимом. То есть Джим стал бы надежным ИИ человеческого уровня, и мы смогли бы теперь превратить его в супер ИИ, и не думаю, что тот был бы против.

Как далеки мы от достижения полной эмуляции мозга? Ну пока что нам удалось недавно эмулировать миллиметровый мозг червя, в котором всего 302 нейрона. В человеческом мозгу их порядка 100 миллиардов. Если от этого вам кажется, что проект обречен, то вспомните мощность экспоненциального прогресса. Сначала мы покорили мозг червя, потом последует муравьиный, за ним мозг мыши и, глядишь, все это покажется более правдоподобным.

2) Попробовать заставить эволюцию сделать то, что она уже сделала

Если мы решим, что контрольную соседа по парте списать очень тяжело, мы можем попробовать подготовиться к ней по его методу.
Вот что нам известно. Собрать компьютер по мощи равный нашему мозгу - возможно, эволюция нашего мозга является тому подтверждением. И если мозг окажется слишком сложным для того, чтобы его эмулировать, мы можем воссоздать вместо этого процесс его эволюции. Пытаться воссоздать мозг - это как построить самолет, скопировав взмах птичьего крыла - зачастую машины лучше сооружать с помощью ориентированного на них подхода, а не подражая биологии в точности.

Таким образом, чтобы построить AGI мы можем имитировать процесс эволюции. Существует метод под названием «генетические алгоритмы», который работает следующим образом: есть процесс производительности-и-оценки, который повторяется снова и снова (таким же образом, как биологические существа «производительны», то есть живы и «оцениваются» по тому, способны ли они к размножению или нет). Несколько компьютеров пытаются выполнять задачи, и самые успешные из них будут скрещиваться друг с другом путем внедрения половины ПО каждого из них в новый компьютер. Менее удачнее компьютеры будут уничтожаться. Спустя множество таких повторов, естественный отбор будет производить компьютеры всё лучше и лучше. Сложность будет заключаться в создании автоматизированного цикла размножения таким образом, чтобы процесс эволюции шел сам по себе.
Недостаток копирования эволюции заключается в том, что эволюция любит занимать миллиарды лет, а мы хотим с этим управится за несколько десятилетий.

Но у нас есть много преимуществ перед эволюцией. Во-первых, эволюция не предсказывает результаты и работает случайным образом, она производит больше бесполезных мутаций, чем полезных, но если мы будем ее контролировать, она станет глючить на пользу нам. Во-вторых, эволюция не стремится ни к чему, в том числе и к интеллекту, иногда окружающая среда может даже совершать отбор против развития разума (так как он требует много энергии). Мы, напротив, могли бы специально направить этот эволюционный процесс в сторону развития интеллекта. В-третьих, чтобы отбор был в пользу интеллекта, эволюции придется измениться в куче других аспектов - например, перенастроить способ, которым клетки вырабатывают энергию, ведь мы можем компенсировать эти нагрузки, используя электричество. Это все заняло бы намного меньше времени, чем естественный процесс эволюции, но все равно неясно, поможет ли нам это достигнуть требуемых улучшений и жизнеспособна ли эта стратегия.

3) Свалить всю эту проблему на сами компьютеры

Когда ученые окончательно впадут в отчаяние, они попытаются сделать так, чтобы контрольная сама себя написала. Тем не менее это один из самых обнадеживающих методов из всех. Идея заключается в том, что мы разработаем компьютер, который будет проводить исследования по ИИ и программировать изменения в собственной архитектуре, что позволит ему не только изучать, но и улучшить себя. То есть сами компьютеры стали бы учеными в области компьютеров для того, чтобы заниматься собственным развитием. Их основная задача - выяснить, как сделать себя умнее. Подробнее об этом позже.

Все это может произойти очень скоро.

Быстрое развитие железа и инновационное эксперименты с программным обеспечением происходят одновременно, и AGI может подкрасться к нам быстро и неожиданно по двум основным причинам:

1) При экспоненциальном росте скорость улитки может резко увеличится. Гифка наглядно это объясняет:

2) Когда дело доходит до программного обеспечения, прогресс может казаться медленным, но достаточно одного открытия для мгновенного скачка в развитии (когда мы считали вселенную геоцентрической, все вычисления давались нам с трудом, но как только мы поняли, что вселенная гелиоцентрическая, всё стало сразу намного проще). Или когда дело доходит до самосовершенствующегося компьютера, нам может показаться, что мы далеки от цели, но какое-то очередное автообновление может резко приблизить компьютер к уровню человеческого интеллекта.

В какой-то момент мы соорудили AGI-компьютеры с человеческим уровнем общего интеллекта. Что дальше? Просто куча людей и компьютеров, живущих вместе в равенстве.

Как бы не так!

Дело в том, что AGI будет по-прежнему иметь значительные преимущества в сравнении с людьми:

Скорость
Нейроны мозга не превышают 200 Гц, в то время как сегодняшние микропроцессоры (которые гораздо медленнее, чем те, что будут, когда появится сильный ИИ) работают с частотой 2 ГГц или в 10 миллионов раз быстрее наших нейронов. Скорость внутренней коммуникации человеческого мозга, достигающая 120 м/с, ужасно отстает от скорости компьютера, которая может достигнуть скорости света.

Размер и хранение
Мозг ограничен в размере формой наших черепов и не может стать намного больше, и даже если станет, скорость внутренней коммуникации не будет достаточной. Компьютеры могут увеличиваться до любого физического размера, что позволяет запихнуть в них гораздо больше железа, компьютеры с увеличенным объемом оперативной памяти (ОЗУ) и долгосрочной памяти (жесткий диск) обладают огромными возможностями и работают точнее, чем наша собственная память.

Надежность и долговечность
Не только память компьютера будет более точной, но и компьютерные транзисторы. В отличие от биологических нейронов, они меньше изнашиваются и могут быть легко отремонтированы или заменены.
Человеческий мозг также быстрее устает, в то время как компьютеры могут работать без остановок, при пиковой производительности 24 часа в сутки и 7 дней в неделю.

Возможность редактирования, возможность модернизации, и в целом вообще широчайшие возможности.
В отличие от человеческого мозга, компьютерная программа может обновляться и исправлять ошибки, с ней легко экспериментировать. Обновления ПО могут охватывать области, в которых человеческий мозг слаб. Программное обеспечение человеческого зрения сверхпередовое, но его способность к усовершенствованиям довольно низка. Компьютеры могут сравняться с человеком по уровню программного обеспечения, отвечающего за зрительную функцию, но оно также может стать более оптимизированным и улучшаться.

Коллективная способность.
Люди превосходят все другие биологические виды в коллективной работе. Начиная с развития языка и формирования крупных общин, с последующим изобретением письма и печати, а теперь и интернета или майнкрафта, гитхаба. Коллективный разум человечества является одной из основных причин, почему мы смогли так далеко оторваться от всех других видов. Но компьютеры обходят нас и в этом. Всемирная сеть ИИ может моментально синхронизировать все данные между отдельными компьютерами. Так что если один компьютер узнает что-то, эта информация мгновенно загружается на все остальные компьютеры. Группа компьютеров может взять на себя одну задачу и справиться с ней как единое целое, потому что в отличие от людей, они не станут спорить между собой, отстаивая мнения, у них нет мотиваций и личной заинтересованности, как у нас.

ИИ, который станет сильным (AGI) посредством запрограммированного самосовершенствования, не воспримет достижение уровня человеческого интеллекта, как некий поворотный момент. Только для нас это значимый показатель, следовательно, AGI не станет на нем останавливаться. А учитывая те преимущества, которыми будет обладать AGI с интеллектом, эквивалентным человеческому, достаточно очевидно, что на этом уровне он будет оставаться недолго и продолжит улучшаться, достигнув интеллекта, превышающего человеческий.

Когда это произойдет, мы, скорее всего, офигеем. Ведь с нашей точки зрения, А - несмотря на то что интеллект разных животных отличается, в любом случае он в разы менее развит, чем у нас, Б - самых умных людей мы считаем таковыми только потому, что сравниваем их с не очень умными.

Так что когда ИИ догонит уровень интеллекта животных, мы будем воспринимать его как что-то, что умнее животных. Когда он достигнет примитивнейших способностей человеческого интеллекта, мы, как выразился Ник Бостром, будем воспринимать его как «деревенского тупицу» и выглядеть наша реакция будет следующим образом - о, гляди, он как дурачок, до чего же это мило! Но проблема заключается в том, что разница в интеллектуальных способностях между деревенским тупицей и Эйнштейном лежит в очень небольшом диапазоне. И AGI быстро обгонит старину Альберта. И тогда нас осенит:

И что же дальше?

Надеюсь, вы насладились временем, пока все было безобидно, потому что с этого момента вся эта история с ИИ начнет становиться ненормальной и пугающей. Я хочу напомнить, всё, что я буду говорить, по-прежнему имеет реальные научные подтверждения и является прогнозом на будущее, который составили самые высокоуважаемые мыслители и ученые современности. Просто держите это в уме, пока читаете.

Во всяком случае, как я уже сказал выше, большинство вариантов развития событий, по которым мы доберемся до AGI, подразумевают процесс самосовершенствования ИИ. И как только появится AGI, даже системы, которые разрабатывались с помощью методов, не включавших в себя самопрограммирование, станут достаточно умными, чтобы начать самостоятельно вносить в свою архитектору изменения, если они этого захотят.

И вот тут вся концепция начинает становиться еще интереснее. Давайте введем новое понятие: рекурсивное самосовершенствование. Работает оно следующим образом:

Система ИИ в какой-то момент, скажем, на уровне тупого деревенщины, программируется на самосовершенствование. Как только это происходит и она становится умнее, достигая уровня Эйнштейна, она продолжает развиваться, но уже обладая интеллектом Эйнштейна, на что будет требоваться меньше времени. По мере того, как скачки в развитии будут увеличиваться, AGI достигнет уровня ASI - это и называется Интеллектуальным Взрывом и служит окончательным примером действия Закона ускоряющейся отдачи.

Ведутся некоторые споры о том, как скоро ИИ достигнет общего уровня человеческого интеллекта. По опросам сотен ученых, это, вероятно, произойдет к 2040, что всего через 25 лет, и это не так уж и нескоро.

Но может произойти и следующее:
Слабому ИИ потребуется несколько десятилетий, чтобы стать AGI с низким уровнем интеллекта, но в конечном итоге это все равно произойдет. Компьютер будет способен понимать окружающий мир на уровне четырехлетнего ребенка, но уже через час он будет понимать сложнейшую теорию физики, которая объединяет теорию относительности с теорией квантовой механики, что не удавалось сделать ни одному человеку. Через еще полтора часа AGI достигает уровня ASI и будет превышать интеллект любого человека в 170000 раз или 270000, или какая разница вообще.

Сверхинтеллект такой величины мы даже отдаленно понять не сможем. Все равно, что шмель попытается разобраться в Кейнсианской экономике. В нашем мире уровень IQ составляет в среднем 130 баллов для умного человека и 85 для глупого, мы даже не способны представить уровень IQ в 12952.

Точно известно, что абсолютное доминирование людей на Земле предполагает четкое правило - с разумом приходит сила. Это означает, что ASI станет самым мощным созданием, когда-либо существовавшим на Земле, и это может произойти через несколько десятилетий.

Если наши скудные мозги были способны придумать Wi-Fi, то чему-то, что в 100 или 1000 или 1000000000 раз умнее, чем мы, не составит труда контролировать расположение каждого отдельного атома во вселенной.
Все, что мы привыкли воспринимать как некую магию, любая сила, считавшаяся нами чем-то божественным, станет для ASI простой, как выключение света. Создание технологии обратного старения человека, лечение болезней и голода, перепрограммирование погоды для защиты будущей жизни на Земле - все это станет возможным. Но также возможным будет и моментальное прекращение существования всех форм жизни на Земле.

ASI станет всемогущий Богом на Земле, и самым важным вопросом для нас останется тогда этот:


Будет ли этот Бог добрым?

«Перед нами стоит чрезвычайно сложная задача. и неизвестно, сколько времени потребуется на ее решение, вполне возможно, от этого зависит судьба всего человечества» - Ник Бостром

Теперь вы, уставившись в экраны мониторов, наверное, гадаете, какие чувства вам следует испытывать, пока вы пытаетесь переварить эту информацию. Тем временем, до того, как окунуться во все это с головой, давайте вспомним, что значит для машины обладание сверхинтеллектом.

Существует ключевое различие между быстрым сверхинтеллектом и качественным сверхинтеллектом. Часто, когда мы пытаемся представить суперумный компьютер, мы первым делом думаем, что он так же умен, как и человек, только способен думать намного быстрее (вспомните х/ф «Она», скорость является основной чертой, отличающей супер ОС от человека), то есть, ему потребуется минут пять, чтобы решить задачу, на которую у человека уйдет лет десять.

Звучит впечатляюще, и ASI действительно будет мыслить в разы быстрее любого человека, но настоящее отличие будет заключаться в качестве этого мышления, а не в его скорости, что принципиально все меняет. Разница в умственных способностях между человеком и шимпанзе заключается не в скорости мышления, а в том, что человеческий мозг содержит большее количество сложных когнитивных модулей, которые позволяют нам строить сложные лингвистические обозначения, долгосрочные планы или отвлеченные рассуждения, тогда как мозг шимпанзе на это просто не способен. Ускорение работы мозга шимпанзе в тысячу раз не принесет такого результата даже через десятилетие. Шимпанзе по-прежнему не будет способен собрать замысловатую модель, используя набор специальных инструментов, тогда как человек справится с этим за пару часов. Существует огромное количество когнитивных функций, которые никогда не станут доступны шимпанзе, вне зависимости от того, сколько времени у него уйдет на попытки.

Проблема не в том, что шимпанзе не может делать то же, что под силу нам, а в том, что шимпанзе даже не способен понять, что такие возможности существуют. Шимпанзе может приблизительно понимать, что такое человек и что такое небоскреб, но он никогда не поймет, что люди построили небоскребы. Для шимпанзе все большое является частью природы и точка, сама возможность построить небоскреб лежит за гранью его понимания. Все это является результатом небольшого различия в качестве разума.

В масштабе интеллектуального диапазона, о котором мы говорим сейчас, или даже такого диапазона между биологическими существами, разница между интеллектом шимпанзе и интеллектом человека ничтожно мала. Специально для вас я решил выстроить в ряд биологические существа по уровню их когнитивных возможностей, используя изображение лестницы (А - Расположение этих существ на лестнице не основано ни на каких научных данных и просто призвано донести общую суть, Б - я очень горжусь этими рисунками):

Теперь для того, чтобы понять, насколько важным будет появление сверхразумных компьютеров, представьте, что один из них находится на той темно-зеленой ступени, что на две выше, чем человек. И это будет всего лишь слегка сверхразумная машина, но разница в когнитивных способностях между ней и нами будет такой же, как и разница между человеком и шимпанзе. Как и шимпанзе, неспособный понять небоскребы, мы никогда не сможем понять что-то, что под силу компьютеру на темно-зеленой ступени, даже если бы он постарался нам это объяснить, не говоря уже о том, чтобы сделать это самим. И он всего только на две ступни выше нас. Машина на предпоследней ступени сверху будет для нас, как мы для муравьев, она может годами пытаться дать нам простейшее представление о том, что ей известно, и все будет без толку.

Но сверхинтеллект, о котором мы говорим, сейчас расположен далеко за пределами этой лестницы. При интеллектуальном взрыве, чем умнее машина становится, тем быстрее она способна совершенствовать свой интеллект. Машине могут потребоваться годы, чтобы сделать шаг и стать на ступень выше шимпанзе, но потом, возможно, ей понадобится всего несколько часов, чтобы перепрыгнуть на темно-зеленую ступень, после чего дальнейшие скачки будут занимать считанные секунды. Поэтому важно понимать, что пройдет совсем немного времени от момента, когда мы услышим новости о создании первого компьютера, сравнимого по интеллекту с человеком, до момента, когда мы начнем сосуществовать на Земле с компьютерами, которые будут на миллионы ступеней выше нас.

Раз мы уже договорились, что нет смысла даже пытаться понять машину, которая на две ступени выше нас, давайте конкретно раз и навсегда договоримся, что нет ни малейшего шанса предугадать, что сделает с нами ASI и какими для нас окажутся последствия. Любой, кто попытается сделать вид, что может это предсказать, явно ничего не смыслит в сверхинтеллекте.

Эволюция совершенствовала биологический мозг медленно и постепенно в течение сотен миллионов лет, и в этом плане создание человеком сверхинтеллекта будет большим плевком в сторону эволюции. Хотя, возможно, это и есть часть эволюции - может, она устроена таким образом, что человеческий разум развивается до тех пор, пока он не становится способен создать искусственный сверхразум, что служит неким детонатором. который вызовет взрыв, определяющий будущее для всех живых организмов:

По причинам, которые мы обсудим позже, большая часть научного сообщества считает, что вопрос не в том, наступим ли мы на эту мину, а когда. Такая информация немного сносит крышу.

И куда это нас приведет?

Никто в этом мире, и уж точно не я, не сможет ответить вам на этот вопрос. Но Оксфордский профессор философии и лидирующий исследователь в области искусственного интеллекта, Ник Бостром считает, что мы можем свести все варианты событий в две широкие категории.

Во-первых, взглянув на историю, мы видим, что жизнь устроена следующим образом: новый вид появляется, существует какое-то время и потом неизбежно теряет равновесие и сваливается с бревна жизни, оказываясь в зоне вымирания:

«Все виды в конечном счете вымирают» - было почти таким же надежным правилом, как и «все люди умирают». Пока что 99.9 % живых существ не удержали свое равновесие и сорвались с бревна. Отчетливо ясным кажется, что находясь на грани вымирания и из последних сил цепляясь за это бревно, вид может быть легко сброшен любым катаклизмом или появлением нового вида. Ник Бостром называет вымирание аттрактором - состоянием, в которое попадают все существа и никогда из него не возвращаются обратно.

Хотя большинство ученых, с работами которых я сталкивался, считают, что появление ASI обречет человечество на вымирание, многие все же верят, что при грамотном использовании ASI может привести отдельных людей или весь вид ко второму состоянию аттрактора - бессмертию вида.

Бостром убежден, что бессмертие вида, как и его вымирание, представляет собой состояние аттрактора. Как только мы достигнем его, мы навсегда победим смерть. Таким образом, несмотря на то, что все виды до сих пор падали в сторону зоны вымирания, Бостром считает, что у бревна есть два края и никто на Земле еще не был достаточно умен, чтобы понять, как свалиться в другую сторону.

Если Бостром и те, кто с ним согласны, действительно правы, а судя по всему тому, что я успел прочесть, у них есть все шансы оказаться таковыми, то нам предстоит принять два шокирующих факта:

1) Появление ASI впервые откроет для видов возможность свалиться с бревна жизни в сторону бессмертия, а не вымирания.

2) Появление ASI окажет такое огромное влияние на жизнь человечества, что, скорее всего, столкнет человеческий вид с бревна жизни в ту или иную сторону.

Очень вероятно, что когда процесс эволюции подведет нас к этой бомбе, взрыв навсегда положит конец человеческой связи с бревном баланса и создаст новый мир с людьми в нем или без них.
Кажется, единственный вопрос, которым нам следует задаваться сейчас, - в какую сторону мы свалимся с бревна баланса, когда наступим на эту бомбу и, собственно, когда это все произойдет?

Никто точно не знает, но многие ученые потратили кучу своих сил и времени, размышляя над этим вопросом. Оставшуюся часть поста мы потратим на исследование результатов их деятельности.
Начнем с первой половины вопроса: когда мы наступим на бомбу?
Как долго придется ждать, пока машины достигнут уровня сверхинтеллекта?

Неудивительно, что оценки приводятся совершенно разные, и среди ученых ведутся жаркие споры по этому поводу. Многие, как профессор Вернор Виндж, ученый Бен Гёрцель, соучредитель компании Сан Майкросистемс Билл Джой и более известный изобретатель и футуролог Рей Курцвейл согласились с экспертом машинного обучения Джереми Говардом, когда тот представил следующий график на Ted Talk:

Все эти люди убеждены, что это произойдет скоро - экспоненциальный рост в действии, машины становятся все умнее, и, хотя пока этот процесс кажется медленным, мы и опомниться не успеем, как они уже нас обгонят через несколько десятилетий.

Другие вроде соучредителя Microsoft Пола Аллена, психолога исследований Гари Маркуса, ученого Нью-Йоркского университета Эрнеста Дэвиса и технопредпринимателя Митча Капора считают, что ученые, подобные Курцвейлу, значительно недооценивают масштабы задач, и мы не так уж и близки к взрыву.

Лагерь Курцвейла, напротив, считает, если что-то и недооценивается, так это экспоненциальный рост, и сравнивает сомневающихся с теми, кто, глядя на развитие интернета в 1985 году, говорили, что глобальная сеть не окажет большого влияния на мир в ближайшем будущем.

Третий лагерь во главе с Ником Бостромом убежден, что ни у первых, ни у вторых нет достаточных оснований быть уверенными в своих прогнозах и считает, что: А - это может произойти в ближайшем будущем; Б - это может затянуться, и на значительно больший срок.

Конечно же, есть и такие, в их числе философ Хьюберт Дрейфус, которые считают, что все три лагеря наивны и глубоко заблуждаются: никакой бомбы нет и быть не может, т.к. создание ASI невозможно.

Что мы получим сложив вместе все эти точки зрения вместе?
В 2013 году в ходе ряда конференций Ник Бостром провел опрос, в котором участвовали сотни экспертов в сфере искусственного интеллекта. Всем им нужно было дать ответ на один вопрос: -Когда, по вашему мнению, будет создан искусственный интеллект человеческого уровня?- Им нужно было дать оптимистичное предположение (есть шанс в 10%), правдоподобный прогноз (50% уверенности) или безопасную догадку (год, в котором уже с 90% вероятностью будет создан AGI). Вот результаты собранных и обработанных данных:

Средний оптимистичный год (вероятность 10%): 2022
Средний реалистичный год (вероятность 50%): 2040
Средний пессимистичный год (вероятность 90%): 2075

В среднем опрошенные считают, что, скорее всего, через 25 лет AGI станет реальностью. Если вы подросток, то, согласно пессимистическому прогнозу, AGI точно появятся уже при вашей жизни.
Отдельное исследование недавно провел писатель Джеймс Баррат на ежегодной конференции Бена Гёрцеля, посвященной AGI. В опросе Баррат предлагал участникам выбрать из списка год, когда будет создан AGI. Варианты предлагались следующие: 2030, 2050, 2100, позже и никогда. Вот результаты:

К 2030: 42 % опрошенных
К 2050: 25 %
К 2100: 20 %
После 2100: 10 %
Никогда: 2 %

Эти результаты достаточно схожи с теми, что получил Бостром. В опросе Баррата больше 2/3 участников заявили, что AGI появится к 2050 году и чуть меньше половины считают, что это произойдет в течение следующих 15 лет. Поражает также, что всего 2 процента вообще не верят в достижение AGI.

Но помните, что не AGI должен вызвать взрыв, а последующий за ним ASI. Кода же, по мнению ученых, появится ASI?
Бостром также спросил у экспертов, когда, по их мнению, мы достигнем сверхинтеллекта, предложив следующие варианты ответа: А) в течение 2 лет (т.е. интеллектуальный взрыв последует почти незамедлительно) после изобретения AGI; Б) в течение 30 лет. Теперь смотрим результат:
По результатам среднего прогноза, возможность резкого скачка маловероятна - всего 10% опрошенных, а более длительных переход возможен с вероятностью в 75%.

Эти данные не дают нам среднего процента вероятности (50%), но с целью приблизительного прогноза, основанного на двух вышеперечисленных ответах, предположим, что они сказали -20 лет-. Согласно среднему прогнозу экспертов в области ИИ, по самому правдоподобному прогнозу мы достигнем сверхинтеллекта приблизительно к 2060 году (2040 год - появление AGI, плюс наш прогноз 20-летнего перехода от AGI к ASI).

Конечно, все вышеперечисленные статистические данные спекулятивные и представляют собой только среднее мнение среди экспертов в области ИИ, но они показывают, что большинство людей, которые лучше всех осведомлены в этой теме, согласились бы, что 2060 - достаточно разумное предположение для года, когда появится сверхинтеллект, который изменит мир. От этого момента нас отделяет всего 45 лет.

Хорошо, теперь насчет второй части вопроса -
с какого края бревна мы свалимся, когда произойдет взрыв?

Сверхинтеллект будет обладать огромной мощью, и критическим для нас станет следующий вопрос:

Кто будет контролировать эту мощь и какая у него будет мотивация?


В зависимости от ответа на него, мы решим, должен ли ASI вызывать у нас восхищение или страх.

Конечно же, научное сообщество и здесь существенно расходится в мнениях и ведет жаркие споры. В опросе Бострома участникам предлагалось оценить вероятность возможных последствий влияния AGI на человечество: 52% считают, что последствия будут хорошими или даже очень хорошими; 31% считают, что последствия будут плохими или очень плохими. Только 17% посчитали, что последствия будут нейтральными. Иными словами, люди, которые лучше всего осведомлены в этой теме, уверены, что это все это очень серьезно. Следует заметить, что речь здесь шла только об AGI, если бы вопрос был об ASI, процент с нейтральной оценкой, вероятнее всего, был бы намного ниже.

Пока мы еще полностью не углубились во всю эту риторику хороших и плохих последствий, давайте пока объединим обе части вопроса «когда это случится?» и «будет ли это чем-то плохим или хорошим» в один график, который включает в себя мнения большинства соответствующих экспертов:

Мы поговорим о главенствующем лагере через минуту, а пока скажите, определились ли вы со своей позицией? На самом деле, я знаю, что вы скажете, потому что я считал так же, пока не углубился в исследование этого вопроса. Некоторые причины, по которым люди не особо задумываются над этой темой:

Как мы уже говорили фильмы существенно запутали нас, показывая нереалистичные сценарии развития ИИ, заставляя нас думать, что ИИ не является чем-то, что стоит воспринимать всерьез. Джеймс Баррат сравнивает подобную реакцию с тем, как если бы центры по контролю и профилактике заболеваний сделали бы серьезное предупреждение о надвигающейся опасности наступления эпидемии зомби.

Это называется когнитивными предрассудками, нам тяжело поверить в реальность чего-то, пока мы не увидим доказательства этому. Я уверен, что ученые в 1988 постоянно обсуждали насколько серьезным будет развитие интернета, но люди не задумывались о том, как он изменит их жизнь, пока этого не произошло. Отчасти так было из-за того, что компьютеры в 1988 году не были столь функциональны, и глядя на них, люди не верили, что те скоро изменят их жизни. Их воображение было ограничено личным опытом и не позволяло отчетливо представить себе, чем могут стать компьютеры. То же самое происходит сейчас и с ИИ. Мы слышим, что это все очень серьезно, но наш опыт, котором

Источник: interpreted.dirty.ru

Комментарии: