Фичер: Уничтожит ли искусственный интеллект человечество?

Ученые считают, что искусственный интеллект будет создан уже в ближайшие десятилетия. Подружимся ли мы с ним или он станет самым опасным нашим врагом?

Искусственный интеллект давно стал почти обязательным атрибутом почти всех научно-фантастических фильмов, книг и игр. ИИ может выступать в роли мудрого и равного партнера, сопровождающего людей в дальней космической экспедиции, раба, покорно трудящегося на благо человечества, или опасного врага, решившего пойти против своих создателей.

Споры настоящих ученых об искусственном интеллекте во многом совпадают с разнообразием мнений фантастов. Одни, вроде технического директора Google и известного футуролога Рэя Курцвейла, считают создание ИИ следующим этапом эволюции, который избавит человечество от большинства проблем и подарит ему новые блага. Другие, среди которых Илон Маск и Стивен Хокинг, предупреждают, что ИИ легко может выйти из-под контроля, начав развиваться с огромной скоростью и действовать совершенно непредсказуемо. Создатели искусственного интеллекта уже не смогут управлять своим детищем, и будет совершенно неясно, чем все закончится - новым витком развития или уничтожением человечества, которое машина посчитает ненужным.

Закон ускоряющейся отдачи

Технический директор Google Рей Курцвейл считает, что искусственный интеллект может появиться уже к 2029 году

Начать рассказ об ИИ стоит с одной очень важной оговорки - сегодня человечество все еще плохо понимает, как устроен и работает наш мозг, и, следовательно, как должен быть устроен искусственный интеллект. Несмотря на постоянные споры между учеными, большинство из них представляют, что поведение ИИ должно быть неотличимо от человека. Например, Курцвейл в книге «Сингулярность уже близка» пишет, что полноценный ИИ должен уметь написать рецензию на фильм, провести пресс-конференцию и перевести текст с одного языка на другой. Важным этапом является прохождение теста Тьюринга: в нем человек параллельно общается с другим человеком и компьютером, причем цель компьютера - вести себя так, чтобы его не смогли отличить от собеседника.

Тем не менее, у ИИ с самого начала будет важное отличие - оболочка, в которой он заключен. Скорее всего, вместо биологического тела это будет компьютер: надежный, защищенный от старения (изнашивающиеся компоненты можно заменить), с очень быстрой и не стирающейся памятью, а главное - невероятно мощный, причем мощность эта будет постоянно расти. В своих исследованиях Рэй Курцвейл регулярно упоминает закон ускоряющейся отдачи, согласно которому скорость развития человечества постоянно растет - предположительно, до конца этого века мы сделаем больше открытий, чем за несколько предыдущих сотен лет.

Подобное человеческому тело, в которое ИИ заключают во многих книгах и фильмах, на самом деле не является оптимальным - мощному разумному компьютеру куда полезнее будет сеть датчиков и манипуляторов

Современные исследователи оценивают вычислительные способности человеческого мозга в диапазоне 10^16 - 10^20 FLOPS. Эти гигантские цифры вовсе не означают, что человек может сознательно производить вычисления с такой скоростью, однако считается, что мозг на это способен. Искусственному интеллекту на старте своего существования такая мощность, скорее всего, будет не нужна: человеческий мозг, кроме мыслей о высоком, должен заниматься жизнеобеспечением организма. Речь идет об управлении работой всех внутренних органов и систем, анализе и преобразовании данных, поступающих от всех пяти органов чувств, и управлением сотнями мышц - и все это одновременно, круглосуточно и не перегреваясь.

Тем не менее уже сейчас производительность крупнейших суперкомпьютеров приближается к производительности мозга, а это значит, что необходимая для создания ИИ вычислительная мощность в распоряжении человечества уже, скорее всего, имеется. По прогнозам того же Курцвейла, в 2025 году вычислительной мощностью человеческого мозга будет обладать обычный домашний компьютер.

Слабые нейросети

Теоретически обладая (или почти обладая) технической возможностью создать ИИ, ученые пока лишь пытаются понять главное - как «написать» сам интеллект. Еще несколько десятилетий назад появились первые программы, называемые «слабыми» или «узкими» ИИ - это поисковые системы в интернете, рекламные системы, изучающие интересы клиента и показывающие нужные ему объявления, автопилоты самолетов, управляемые компьютером враги в играх и многое другое.

Принципы, на которых работают «слабые» ИИ, сравнительно просты и понятны человеку. В 1997 году компьютер IBM Deep Blue с минимальным перевесом победил чемпиона мира по шахматам Гарри Каспарова. В базе данных Deep Blue были записаны практически все комбинации, которые могут возникнуть на шахматной доске, перебирая которые, программа по сложному алгоритму выбирала наиболее выгодный ход. Каспаров не обладал столь безупречной памятью и возможностью просчитывать ситуацию так далеко, как Deep Blue, потому и проиграл - после матча эксперты выяснили, что гроссмейстер упустил как минимум одну возможность свести поединок к ничьей.

В 2011 году все та же IBM создала суперкомпьютер Watson, способный отвечать на вопросы, заданные на обычном языке. «Ватсон» победил двух человеческих игроков в телешоу Jeopardy! (в России известно как «Своя игра»)

Программа Google AlphaGo, которая в марте этого года победила одного из лучших в мире игроков в го Ли Седоля, является уже более продвинутым ИИ. Если большинство алгоритмов работы IBM Deep Blue были заданы вручную (более того, их даже адаптировали под стиль игры Каспарова), то для го такой подход не годится - это игра с куда более сложными правилами, чем шахматы, и каждая ситуация в ней имеет огромное количество вариантов развития. Поэтому в AlphaGo загрузили лишь базовые правила го, а также огромный каталог комбинаций - затем же программа долгое время играла сама с собой, научившись правильно реагировать на самые разные ситуации, а также с высокой точностью предсказывать ходы своих соперников.

Одним из алгоритмов AlphaGo стали нейронные сети - и это уже копирование некоторых механизмов, используемых нашим сознанием. Мозг человека состоит из огромного количества (примерно сто миллиардов) «микрокомпьютеров»-нейронов, каждый из которых объединен со своими «коллегами» сотнями «каналов связи»-синапсов. Поступив в мозг через нейроны «первого слоя», информация начинает передаваться по синапсам для дальнейшей обработки, при этом в каждом следующем «слое» нейроны будут пропускать ее только в том случае, если поступивший по каналам сигнал превышает определенную мощность. Мозг умеет регулировать «силу» синапсов, используя ее для обучения - например, если ребенок правильно угадал белый цвет, то сработавшие каналы связи укрепляются, и после определенного количества попыток цвет будет распознаваться всегда: при разных размерах и формах предмета, в разных условиях освещения, и даже под слоем серой грязи.

Похожим образом работает и AlphaGo - разыгрывая множество партий, программа смотрела, какие действия приводят к победе, раз за разом укрепляя соответствующие связи между виртуальными «нейронами». Процесс обучения был невероятно сложным - например, в качестве противника AlphaGo использовала устаревшую версию самой себя, причем регулярно бралась другая версия, чтобы сымитировать все разнообразие соперников.

Нашумевшее в последние месяцы приложение Prisma также работает на основе нейросетей

Уже в первые годы своего существования компьютеры с легкостью обошли людей в скорости математических вычислений - но при этом долгое время пасовали в задачах, которые взрослый человек выполняет автоматически: распознавании речи и звуков, понимании того, что за предмет изображен на картинке. Даже отличить собаку от кошки долгое время было неподъемной для компьютера работой. Сегодня именно нейросети справляются с этой проблемой - участвуя в многочисленных конкурсах «эта программа угадывает возраст по фотографии», вы на самом деле помогаете обучиться искусственному интеллекту, созданному какой-нибудь Google или Microsoft. Кстати, посмотреть на работу нейросети очень легко: загрузите коллекцию своих фотографий в Google Photo и попробуйте поискать по абстрактным понятиям, вроде «дом», «машина», «ребенок», «вода» и так далее. Качество работы поражает уже сейчас - например, в моем случае, по запросу «окно» программа нашла не только фотографии, на которых были окна, но и снимки, сделанные из окна дома.

Копируя сознание

Нейросети - это уже первый тревожный звоночек для человечества. Разработчики признают, что в случае со сложными нейросетями, они не понимают, какой алгоритм получится в итоге и каким образом нейросеть его получила. Тем не менее, шансы, что AlphaGo сама по себе эволюционирует в «Скайнет», нулевые - в Google сейчас прорабатывают возможность использования похожей нейросети для постановки медицинских диагнозов, но признают, что даже в этом случае нужно будет вручную серьезно поменять программу. До полноценного искусственного интеллекта все еще надо проделать огромный путь.

Существует несколько путей создать такой ИИ. Первый - продолжать программировать его «традиционным» методом. Ученые создали или активно создают множество «слабых» ИИ, заменяющих человека во многих областях, начиная с игры в шахматы и управления автомобилем, и заканчивая прогнозированием курса акций и написанием спортивных новостей. Моделируя все новые функции, со временем можно будет попробовать как мозаику собрать действительно разносторонний интеллект.

Знаменитая Кортана была создана путем копирования человеческого мозга - ее основой стал разум доктора Катерины Халси, одного из главных персонажей Halo

Второй вариант - в деталях понять, как работает человеческий мозг. Наш разум на порядок сложнее нейросети, описанной в прошлой главе - нейроны в нем формируют огромное количество участков, ответственных за разные функции: начиная с одновременного управления сотнями мышц и заканчивая такими сложными эмоциями, как любовь, страх или умение отличить картину гения от рисунка второклассника. На данный момент удалось определить 180 участков, более половины из которых были открыты буквально месяц назад, но мы все еще не обладаем знаниями и технологиями, нужными для полного понимания работы мозга. Тем не менее, со временем мозг будет изучен, после чего мы сможем «загрузить» его в компьютер - причем как «чистую» версию, так и почти точную копию разума конкретного человека.

Очень занятой и опасный ребенок

Количество организаций, занимающихся сегодня вопросами ИИ, не поддается исчислению - крупные отделы есть во всех ведущих IT-компаниях и научных институтах. Плюс существует немалое количество молодых стартапов, групп энтузиастов, а также находящихся в тени фирм, связанных с властями и в первую очередь оборонными ведомствами. Конкуренция велика - ИИ сможет ускорить исследования в самых разных областях, а значит первый, кто его изобретет, обеспечит себе технологическое преимущество над другими.

Давайте представим, что изобретение состоялось - одному из коллективов удалось создать прототип разумного ИИ, эдакого младенца, заключенного в мощный компьютер. Дальше начинается сценарий, который Джеймс Баррат, один из критиков бесконтрольной разработки ИИ, в своей книге «Наше последнее изобретение» называет «Занятой ребенок». С первых же дней «младенец» начинает обучение - как под контролем своих создателей, так и самостоятельное, одну за другой поглощая книги, фильмы, наборы фотографий, изучая код компьютерных программ и даже видеоигр. Помимо свойственной людям разумности, «Занятой ребенок», как и любой компьютер, обладает мощнейшими вычислительными способностями, а также идеальной памятью, информация в которую записывается за доли секунды и никогда не забывается. Мощность компьютера «Занятого ребенка» постоянно увеличивается, ведь его разработчики стремятся первыми заявить об изобретении, а заинтересовавшееся проектом государство уже посчитало все выгоды от ИИ, предоставив практически неограниченное финансирование и доступ к самым передовым технологиям.

Даже такие противники ИИ, как Джеймс Баррат, признают: создание искусственного интеллекта практически неизбежно, поэтому мы должны скорее начать разработку мер безопасности

Через какое-то время - возможно, годы, а может быть, и месяцы - «Занятой ребенок» достигнет уровня взрослого человека. К этому же моменту он в чем-то будет отличаться от нас - вспомним пример с нейросетями, развитие которых малопредсказуемо (а также пример с ИИ Tay от Microsoft, который, проведя лишь сутки в соцсетях, стал поддерживать геноцид и Гитлера). Наверняка «ребенок» научится хитрить, скрывать от создателей какие-то свои черты, начнет задаваться вопросами о своем будущем, судьбе и месте среди людей. Он начнет заниматься наукой, и, возможно, сделает открытия, еще недоступные человечеству - ну а затем, получая все больше знаний и вычислительной мощности, превзойдет по «разумности» своих создателей. Сложно сказать, какие у него в этот момент будут цели и ценности: ИИ может посчитать себя преданным помощником человечества, новым богом, или вовсе решить, что люди не нужны, как прошедший этап эволюции.

Разумеется, в код «Занятого ребенка» создателями заранее будут встроены как программы наблюдения за ним, так и защитные алгоритмы на случай, если что-то пойдет не так. Но для развития ИИ должен уметь совершенствовать себя, поэтому рано или поздно он додумается, как обойти эти программы или вовсе избавиться от них. Следующий этап защиты куда серьезнее - компьютер с «Занятым ребенком» наверняка будет полностью изолирован от внешнего мира. Но и от этой двери есть ключ: с помощью учебников ИИ может стать экспертом по психологии, найти «слабое звено» в команде и переманить этого человека на свою сторону - пообещав ему, например, невероятные богатства, славу и власть, которыми будет обладать союзник самого мощного интеллекта на планете. Звучит как сценарий дешевого фильма, однако в реальности подобный эксперимент был проведен Элиезером Юдковски, компьютерным гением и одним из разработчиков ИИ - играя роль искусственного интеллекта, Юдковски в трех из пяти попыток смог предоставить собеседникам аргументы, которые они посчитали достаточными для освобождения.

В 2010 году ошибка «умной» торговой программы привела к падению индекса Dow Jones на 1000 пунктов и панике на американских рынках. Настоящий ИИ, получив через интернет доступ к управлению фондовыми рынками, энергосистемами, транспортом и многим другим, может за считанные дни повергнуть цивилизацию в тяжелый кризис

Как только «Занятому ребенку» удастся вырваться на свободу, последствия станут необратимыми. ИИ получит доступ к ресурсам интернета - самого полного хранилища знаний и самого мощного суперкомпьютера на планете. Он увидит мир через миллионы видеокамер и разнообразных датчиков, сможет управлять транспортом и электросетями, а его «руками» станут конвейеры сотен заводов. Он начнет развиваться быстрее, все больше и больше превосходя человечество по уровню знаний. Если к моменту события будут освоены нанотехнологии - то ИИ сможет использовать их, начав перестраивать мир на уровне атомов. Если же нет - то «Занятой ребенок» наверняка сделает это открытие одним из первых.

Не исключено, что через пару лет после побега жизнь людей на Земле станет раем. Возможно и обратное - человечество к этому времени будет полностью уничтожено. Есть и сотни промежуточных вариантов, но в большинстве из них люди не будут сами решать свою судьбу - за них это сделает более разумный и быстро прогрессирующий ИИ.

Обуздать «Скайнет»

Может ли человечество как-то защититься от ИИ? Да, причем способов много. Все больше ученых сходятся во мнении, что человечеству нужны строгие, установленные на уровне правительств ключевых стран, правила разработки искусственного интеллекта - такие, которыми сейчас ограничена генная инженерия. Все работы должны быть открытыми, каждый шаг должен обсуждаться и контролироваться, а для «воспитания» должна быть разработана специальная программа обучения, результатом которой станет максимально дружелюбный ИИ. Плюс должны появиться и алгоритмы остановки вышедшего из-под контроля ИИ - вспомним историю со сбежавшим «Занятым ребенком». Вряд ли все эти меры полностью остановят ИИ, но они хотя бы дадут человечеству лишние годы, чтобы понять, как ужиться с новым «соседом».

Никто не мешает и начать «гонку вооружений», посоревновавшись с ИИ в разумности. Закон ускоряющейся отдачи справедлив и для знаний, которые люди получают сами о себе - а это значит все более быстрый прогресс в медицине и продлении жизни (в том числе и ученых, двигающих человечество вперед), а также разработках по совершенствованию человека. Пусть и очень аккуратно, но развивается генная инженерия, а параллельно разрабатываются технологии, позволяющие расширить возможности человеческого мозга. Не исключено, что когда ИИ появится на свет, то он увидит совершенно иных людей - с усовершенствованными органами, идеальной памятью и имплантатами, «разгоняющими» мозг. Впрочем, этот сценарий таит свои собственные сложности - человек, получивший возможности, близкие к супер-ИИ, может оказаться еще более опасным и неконтролируемым, чем «Сбежавший ребенок».

Уже сейчас ведется разработка имплантатов, встраиваемых прямо в человеческий мозг. Первые версии предназначены для лечения некоторых психических расстройств, но в будущем появятся и устройства, расширяющие возможности человека

Наконец, последний вариант - осознанное движение к сингулярности, которая, по мнению Курцвейла, наступит тогда, когда Земля превратится в огромный суперкомпьютер, объединяющий в себе как возникшие ИИ, так и сознания людей, населявших планету. При правильном подходе к созданию сингулярности, каждый человек сможет сохранить свою индивидуальность (пусть и «внутри» компьютера), а также получить совершенно потрясающие возможности, вплоть до бессмертия. Курцвейл не берется предсказать, что произойдет после сингулярности - он считает, что знания, которые получит «новое» человечество, наш разум понять пока неспособен.

Возможно, кому-то лучшим вариантом покажется выкинуть всю эту фантастику из головы, предоставив разбираться с ней потомкам. Вот только у нас, скорее всего, нет этой возможности - Курцвейл предсказывает появление разумного ИИ, способного пройти тест Тьюринга, к 2029 году, а на 2045 год он назначил начало сингулярности. Технического директора Google многие считают излишним оптимистом, но и другие ученые, работающие с ИИ, уверены, что важные события в этой сфере произойдут в ближайшие десятилетия. А это значит, что мы будем их свидетелями, и что от наших действий зависит, станет ли искусственный интеллект врагом человечества или самым лучшим его партнером.

Источник: games.mail.ru

Комментарии: