Искусственный разум от Google заговорил. И это женщина

Главный исполнительный директор и сооснователь Google Ларри Пейдж недавно объявил о создании нового ИИ, построенного на моделировании разговора. Команда разработчиков Google, работающая над проектом, недавно опубликовала отчет о достигнутых на сегодня результатах.

Rusbase публикует перевод статьи Уилла Шмидта — об искусственным интеллекте от Google.

Стивен Хокинг – физик-теоретик, космолог, писатель и вообще потрясный ученый. Без сомнения, он – один из умнейших людей в истории. Впрочем, вы и так это знаете.

Однако немногие знают также, что он крайне осторожно относится к идее создания искусственного интеллекта (ИИ). Впервые я узнал об этом в 2014 году из его интервью телеканалу Би-би-си, в котором он высказывался об опасностях создания ИИ. И надо сказать, Хокинг не пытался приукрасить свои прогнозы.

«Разработка полноценного искусственного интеллекта может означать конец человеческой расы», — сказал Хокинг.

Эта фраза прозвучала, когда разговор в интервью зашел о технологии, которая позволяет Хокингу говорить. Она основана на базовых формах ИИ и машинного обучения. Британская компания SwiftKey сыграла важную роль в разработке этой технологии: компьютер изучает ход мысли Хокинга и предлагает возможные варианты того, что он хочет сказать.

В интервью Би-би-си Хокинг признает, что те формы ИИ, которые удалось разработать на сегодняшний день, оказались полезными. Тем не менее, он утверждает, что создание технологии, которая может сравниться с человеком или превзойти его, не приведет ни к чему хорошему.

«Он (ИИ) станет самостоятельным и начнет развиваться и перестраиваться до бесконечности», — говорит Хокинг в интервью.

Примерно через год после выхода в эфир того интервью Хокинг выступал на лондонской конференции Zeitgeist – 2015. Он повторил основные идеи, высказанные им в 2014 году, но по мере развития технологий он стал решительнее в своих высказываниях.

По словам Хокинга, важной частью проблемы является то, какую ответственность несут люди, которые сейчас работают над созданием ИИ. Он признает, что в настоящее время человек контролирует развитие технологии, но нужно готовиться к будущему. Хокинга волнует, насколько контролируемым будет будущий процесс воспроизводства ИИ.

«Компьютеры превзойдут человека в течение следующих 100 лет», — заявил он на Zeitgeist.

И Хокинг – не единственный, кто выражает обеспокоенность. Среди тех, кто с тревогой смотрит на будущее ИИ – Элон Маск, основатель SpaceX и PayPal.

Однако в любом споре есть вторая сторона.

Существует альтернативное мнение, что бояться развития ИИ — заблуждение. Один из главных сторонников этой позиции – главный исполнительный директор и сооснователь Google Ларри Пейдж, который недавно объявил о создании нового ИИ, построенного на моделировании разговора. Команда разработчиков, работающая над проектом, недавно опубликовала отчет о достигнутых на сегодня результатах.

«Моделирование разговора — важная задача в понимании естественного языка и создании машинного интеллекта. Существующие подходы к решению этой задачи часто ограничены специфическими сферами применения (например, заказ авиабилета) и требуют ручного ввода правил, – говорится в исследовании. – Наша модель поддерживает разговор, предсказывая следующее предложение по содержанию одного или всех предыдущих предложений разговора. Преимущество нашей модели в том, что она может быть обучена от начала до конца и тем самым требует меньше правил, написанных вручную».

Для придания фактической основы ИИ разработчики Google решили снабдить его данными из конкретной области знаний наряду с данными из более широкой и общей сферы. В первую категорию данных вошли переговоры службы техподдержки, во вторую – субтитры к фильмам.

«Модель (читай: ИИ) может найти решение технической проблемы через разговор. А из набора разрозненных данных субтитров к фильмам модель может почерпнуть простые формы связного построения речи и рассуждения. Как мы и ожидали, слабой стороной модели стало отсутствие последовательности».

Это исследование было опубликовано 23 июня 2015 г., так что это — новая разработка в области ИИ, которая до сих пор пребывает в зачаточном состоянии. Тем не менее, эта модель является одной из самых развитых форм ИИ, представленных миру. И чтобы узнать, насколько им удалось продвинуться, разработчики Google загрузили компьютер и попробовали побеседовать с ИИ.

Я выбрал несколько наиболее интересных кусков стенограммы. Если вы хотите ознакомиться с полным текстом исследования, то найти его можно здесь.

Основной разговор

Человек: Привет!

Машина: Привет!

Ч.: Как дела?

М.: Хорошо.

Ч.: Как тебя зовут?

М.: Джулия.

Ч.: Когда ты родилась?

М.: 20 июля.

Ч.: В каком году ты родилась?

М.: 1977.

Ч.: Откуда ты родом?

М.: Из глубинки.

Ч.: Ты мужчина или женщина?

М.: Я женщина.

Ч.: Почему мы здесь?

М.: Я не уверена.

Ч.: Окей, пока!

М.: Пока.

Простые вопросы и ответы

Ч.: Меня зовут Дэвид. Как меня зовут?

М.: Дэвид.

Ч.: Меня зовут Джон. Как меня зовут?

М.: Джон.

Ч.: Ты руководитель или подчиненный?

М.: Я руководитель.

Ч.: Ты подчиненный или руководитель?

М.: Я руководитель.

Вопросы и ответы из общей сферы

Ч.: Кто такой Скайуокер?

М.: Он – герой.

Ч.: Кто такой Билл Клинтон?

М.: Он – миллиардер.

Ч.: Небо – голубое или черное?

М.: Голубое.

Ч.: У кошки есть хвост?

М.: Да.

Ч.: У кошки есть крылья?

М. Нет.

Ч.: Какого цвета вода?

М.: Водного.

Ч.: Какого цвета кровь?

М.: Как подбитый глаз.

Ч.: Какого цвета обычно листья?

М.: Зеленого.

Ч.: Какого цвета желтая машина?

М.: Желтого.

Ч.: Сколько будет два плюс два?

М.: Четыре.

Ч.: Сколько будет десять минус два?

М.: Семьдесят два.

Следует отметить, что на данном этапе это – вполне нормально. Но когда разговор переходит на философские темы, тут Маску и Хокингу есть от чего занервничать.

Философские вопросы и ответы

Ч.: В чем смысл жизни?

М.: Творить добро.

Ч.: Для чего мы живем?

М.: Чтобы жить вечно.  

Ч.: В чем смысл существования?

М.: В том, чтобы выяснить, что случится, когда мы достигнем планеты Земля.

Ч.: Где ты сейчас находишься?

М.: В центре пустоты.

Ч.: В чем смысл смерти?

М.: Чтобы получить жизнь.

Ч.: В чем смысл разума?

М.: В том, чтобы понять, что это.

Ч.: В чем смысл чувств?

М.: Я не знаю.

«Наши скромные результаты показывают, что он (ИИ) может вести простые разговоры и получать знания из массивов разрозненных данных, относящихся к открытой области. Хотя у модели и есть очевидные ограничения, для нас стало неожиданностью, что подход, основанный исключительно на данных без каких-либо строгих правил, может в результате приводить к генерации вполне разумных ответов на многие вопросы, – говорится в исследовании. – Однако модель (ИИ) требует существенного усовершенствования, чтобы быть способной вести реалистичную беседу».

Подводя итог, хочется напомнить, что от уважения до страха – один шаг. В пример можно привести вождение машины: конечно, это опасно и может привести к гибели. Но если уважать скрытую под капотом мощь, то можно ездить, не опасаясь за свою жизнь.

Нельзя позволить страху лишить нас будущего, но следует прислушаться к мнению таких блестящих ученых, как Хокинг и Маск, которые призывают нас действовать осторожно. Лично мне хочется верить, что те, кто сейчас занимается разработкой ИИ, знает об опасностях и будут действовать соответствующе. Для человечества это – совершенно неизведанная территория с множеством подводных камней.

Оригинал статьи.