Искусственный интеллект следит за тобой

Персональная автоматизация пока находится на недоразвитом уровне. У меня на телефоне работает Google Now. Каждый месяц Google Now напоминает мне о необходимости оплатить счета, которые я уже оплатил. Он не видит, что я их оплатил, он просто видит полученное мною письмо и срок платежа. Я действую по привычке, и оплачиваю счета в последний день каждого месяца, даже если до срока платежа остаётся ещё несколько недель. И это самоё лёгкое из того, что мог бы выучить компьютер. Но это система без обратной связи, а значит – никакого обучения.

Недавно я прочёл пару отличных статей, посвящённых текущему состоянию разработки ИИ, проливших свет на эту проблему. Согласно им, текущий уровень персональной автоматизации можно обозначить, как «слабый ИИ». А мне необходимо обобщённый ИИ (ОИИ) для личных нужд. Но такого ИИ ожидать не приходится, и вот почему.

Зашоренный ИИ

Как и у большинства людей, мой телефон стал частью меня. Хотя я по многу часов в день использую настольный компьютер (с отдельными монитором и клавиатурой), довольно большая часть моей жизни проходит через сенсорный экран диагональю в 5,2". Google постоянно наблюдает за мной, но пока что он посвящён лишь в небольшую часть происходящего. Он видит ежемесячные уведомления о платежах, упомянутые мною ранее, поскольку я использую gmail, но он не следит за моим браузером достаточно пристально, чтобы знать, что я их оплачиваю. В жизни всему происходящему необходим импульс. Если у моих платежей по счетам нет обратной связи, неудивительно, что я получаю устаревшие уведомления по их поводу. Это значит, что текущий уровень автоматизации не помогает, а только раздражает. Он не может следить за всем, что я делаю.

Как следить за человеком, чтобы не напугать его

Кайла постоянно слушает

Во многих культурах не принято глазеть на людей. То есть, то, можно или нельзя смотреть на человека, зависит от момента; существует максимально допустимый промежуток времени, в течение которого можно рассматривать человека; и определяющие эту игру правила меняются в процессе игры.

Тем не менее, практически все люди способны научиться в неё играть. Даже совершенно незнакомые вам люди способны распознать, когда вам нужна помощь, и нужно ли им предлагать помощь вам. Это краеугольный камень для развития персонального ИИ. И в то же время, это невероятно трудная задача.

Проще всего следить абсолютно за всем, что делает пользователь. Благодаря такому подходу мы получаем гораздо больше данных, но это пугающая практика, вызывающая тонны вопросов, касающихся этичности. Ещё никогда никто не подвергался постоянному наблюдению – для такого процесса не существует межличностной парадигмы. Существующие технологические парадигмы не справляются с такой задачей. Буквально в прошлом месяце власти Германии порекомендовали покупателям куклы по имени «Cayla» уничтожить находящиеся в ней микрофоны. Её микрофон всегда слушает, обрабатывает полученную информацию через систему распознавания речи, при том, что сам сервис расположен за пределами страны.

Что бы там вас ни пугало, неприкосновенность частной жизни – основная проблема на пути того, чтобы позволить системе следить за всем, что вы делаете. Утечка подобной информации будет золотой жилой для «кражи личности». Поймёт ли ваш ИИ, что он должен отключиться каждый раз, когда вы заходите в туалет, госпиталь, другое чувствительное окружение? Можно ли доверять ему в том, что он отключается в такие моменты?

Моё причудливое воображение уже рисует сценарий, в котором ваш ИИ становится таким умным, что начинает шантажировать вас (мысль, похожая на идеи Дугласа Адамса). Что более вероятно, когда ваш персональный помощник узнает вас достаточно хорошо и докажет, что может помогать вам более эффективно делать свою работу, он будет повышен до персонального менеджера. Будете ли вы в этом случае всё ещё эффективной командой?

Машинное обучение как социальная норма

Нейросеть Сета Блинга учится играть в Super Mario World

Машинное обучение – ключ к удивительным достижениям. Но если немного разобраться в том, как оно работает, сразу становится видна проблема. Машина может научиться очень хорошо играть в игры, но ей необходимо видеть все аспекты игры и дать конкретные параметры успеха, вроде очков или собранных предметов.

Чтобы персональный ИИ стал на самом деле полезным, ему потребуется почти неограниченный доступ к сбору данных через наблюдение за вашей повседневной жизнью. Но этим дело не окончится. ИИ не может раз за разом повторять прохождение вашего понедельника так, как это возможно с уровнем компьютерной игры. В данном случае для успешной работы машинного обучения алгоритму необходимо обмениваться данными по большому количеству людей, чтобы получить полезный набор параметров. Технически это бы сработало, но это была бы подсматривающая за людьми сеть эпического размера. Это уже не зловещая долина, а просто-таки сюжет фильма ужасов.

Мы уже сталкивались с проблемами при сборе такого количества данных. Соцсети – это машинное обучение без преимуществ ИИ. Миллионы людей публикуют, с их точки зрения, безобидную информацию о себе на бесчисленных платформах. Но обработка больших данных превращает эту безобидную информацию в предсказания о поведении сегментов популяции.

Если люди испытывают дофаминовый восторг от того, что делятся этими данными, как на них повлияет эффективный персональный ИИ? Он одновременно будет вашим другом, советчиком, доверенным лицом. Снимаю шляпу перед Чарльзом Строссом, обрисовавшим очень страшный вариант ИИ в романе «Accelerando». В книге ИИ принимает форму реалистичного робота-кошки. Очень легко недооценить абстрактный интеллект.

Даже при наличии доступа ИИ не может видеть

Проект Google «Inceptionism» выдаёт наркоманские картинки, но он всё-таки не понимает, на что он смотрит

Текущие технологии могут позволить создать объединённый набор данных, наблюдая за всем, что происходит на ваших разных компьютерах и мобильных устройствах. ИИ может записывать аудио вашей жизни. И даже записывать видео.

Но даже в случае обеспечения полного цифрового доступа к вашей жизни очень сложной задачей будет найти смысл в том, что вы делаете. Это не непреодолимое препятствие, но при нынешних технологиях такая задача однозначно потребует удалённой обработки данных на высоких мощностях. И такие попытки уже предпринимаются системами вроде Amazon’s Echo, Apple’s Siri, Google’s Allo, и детскими игрушками, такими, как упомянутая ранее Cayla и Barbie от Mattel.

Пока что распознавания видео не существует. Это передний край технологий (разработка робомобилей и военных роботов), и эта возможность скоро появится. Как и в случае с распознаванием голоса, уже появились сервисы типа Google Cloud Vision, зависящие от системы ограничений: ориентация предмета по отношению к камере, уровень освещённости, присутствие в наборе предметов для сравнения, и т.п. Но я не думаю, что в обозримом будущем подходящим источником данных для персонального ИИ станет надёжное компьютерное зрение.

И для нашей жизни это проблема. Откуда ваш ИИ узнает, с кем вы говорите? Не видя того, что видите вы, очень сложно собирать данные по контексту. Самым очевидным путём для реализации ввода таких данных было бы ношение камер типа Google Glass. Как закончился этот эксперимент, мы все знаем. Может быть, попытки Snapchat исправят эту ситуацию.

Чем бы мы могли обладать, но не будем

Хорошо, я написал уже достаточно жалоб по поводу проблемы. Если получится решить все эти проблемы, то что мне на самом деле хочется? Если кратко, то я хочу, чтобы мой интеллект дополняли. Если я в разговоре с женой мимоходом обсужу мюзикл, готовящийся к выходу, я хочу, чтобы мой персональный ИИ запомнил это и сообщил о моменте начала продаж билетов на него. К тому же, я хочу, чтобы он знал, где мне нравится сидеть, сколько я готов платить, проверил мой календарь и календарь моей жены, чтобы выбрать идеальный день, и просто спросил бы у меня разрешения на покупку. Я хочу, чтобы он знал, что мы обычно сочетаем поход на шоу с ужином или с употреблением напитков, чтобы он изучил историю наших походов в рестораны и догадался, где бы нам больше всего понравилось посидеть на этот раз.

Но ещё я хочу сохранять тайну личной жизни. Я хочу оставаться человеком и жить своей жизнью. Так что я оторвусь от этих мечтаний о дивном новом мире и получу удовольствие от того, что имею: от доступа к информации, о котором нельзя было всерьёз мечтать 30 лет назад. Технологии продолжат своё развитие, и мы будем получать свои плюсы от этого. Но пока что эти технологии не могут наблюдать за нами достаточно полно, чтобы сделать ОИИ частью вашей повседневной жизни. Но люди будут пытаться это сделать, и о таких попытках всегда будет интересно почитать на GeekTimes.