Как искусственный интеллект учится на наших привычках и обманах

Обычно чтобы находить преступность в Сети, онлайн, нужно знать, что искать. Искусственный интеллект, который видит скрытые схемы, паттерны, может делать это лучше людей — и даже быть на шаг впереди.

Играющие в видеоигру Counter Strike знают, что довольно трудно постоянно оборачиваться и при этом не терять сути происходящего. В быстрых шутерах от первого лица, всегда найдутся игроки с более быстрыми рефлексами или более острым глазом.

Но на пике популярности игры несколько лет назад, люди начали сталкиваться с игроками, навыки которых были чересчур хороши. Шутеры вроде Counter Strike и Half Life, еще одна весьма популярная игра, получили проблему в лице игроков, которые использовали читы, дополнительное программное обеспечение, фиксирующее прицел на цели или позволяющее видеть сквозь стены.

Поэтому в 2006 году, когда в онлайн-соревнованиях выросли ставки за счет денежных призов, на помощь пришла пара необычных арбитров. Дэвид Экселл и Билл Фицджеральд были математиками, которые только-только запустили компанию по разработке искусственного интеллекта Featurespace в лаборатории Кембриджского университета. Их программа прекрасно справлялась вот с чем: выявление странного поведения.

Featurespace разработала систему машинного обучения, которая обнаруживала неожиданные изменения в данных в реальном времени. На основе этих аномалий она затем принимала обоснованное предположение на тему вероятной причины — и чаще всего оказывалось, что люди делают то, чего не должны.

Первым испытанием ИИ был поиск игроков, которые читерят (используют нечестные методы) в видеоиграх. «Наша технология позволила игровым компаниям убедиться, что люди будут играть против людей, а не против роботов», говорит Экселл. Но ИИ Featurespace теперь строго блюдет и другие виды активности. Он стал молчаливым стражем в сердце онлайн-банкинга, электронной коммерции и страхования. Он позволяет выявлять мошенничество и вредоносные программы в Интернете — и даже помогает компульсивным картежникам.

Автоматическое выявление аномалий в данных в реальном времени не является чем-то новым — именно так спам-фильтры отсеивают нежелательные сообщения электронной почты или антивирусное программное обеспечение, перехватывающее вредоносный код, например. Но обнаружение таких вещей, как правило, требует, чтобы система знала, что ищет. Антивирусное программное обеспечение должно получать свежие данные о состоянии отпечатков пальцев или сигнатур вредоносного ПО.

Но это не поможет вам обнаружить ранее невидимые виды деятельности. Поэтому Экселл и Фицджеральд вознамерились построить систему, которая сможет обнаружить любой тип поведения, отклоняющийся от нормы, и понять, откуда он взялся.

Их ИИ — под названием «Арик» (Aric — адаптивный идентификатор индивидуальных изменений в реальном времени) — основан на работе священнослужителя и математика 18 века Томаса Байеса. Байес разработал способ осмысления вероятности, когда вероятность происшествия рассчитывается на основании того, что уже наблюдалось прежде и случалось. Байесовскую вероятность использовал Алан Тьюринг, чтобы найти подводные лодки нацистов, исходя из их активности в прошлом.

И ее можно использовать для определения, когда игрок в Counter Strike, вероятнее всего, читерит. Отслеживая покадровые данные в игре, «Арик» помечает необычные всплески в точности стрельбы отдельных игроков. Очевидно, что они используют метких ботов, которые играют за них, говорит Экселл. «Арик» также заметил, что некоторые игроки неожиданно быстро атакуют своих противников, и сделал вывод, что те используют чит, позволяющий видеть сквозь стены.

Затем Featurespace использовала свои методы, чтобы снизить число беспилотников, которые британские военные теряют в воздухе. Отслеживая аномалии в данных управления полетом, «Арик» нашел ранее неизвестные ошибки, которые приводили к сбою дронов.

Фицджеральд умер в 2014 году, но технологии, которые он помог разработать, меняют методы выявления мошенничества. Первое серьезное коммерческое применение Featurespace было осуществлено совместно с британской фирмой онлайновых азартных игр Betfair, для которой «Арик» выявлял случаи безрассудной траты на ставки — признак того, что кто-то может ставить на чужие деньги. Если «Арик» поднимает тревогу, Betfair мгновенно разбирается в ситуации — транзакцию можно остановить на лету, если понадобится.

«Арик» также начинает искать азартных игроков и самостоятельно. Серии высоких ставок могут говорить о том, что люди ведут себя компульсивно. Помимо онлайновых ставок, эта система может также отслеживать активность на игровых автоматах и выдавать предупредительные знаки. «Если вы можете спрогнозировать, какие игроки могут стать зависимыми, вы можете попытаться вмешаться до возникновения проблем», говорит генеральный директор Featurespace Мартина Кинг. Сейчас «Арика» используют несколько серьезных игровых контор.

Но крупнейшими клиентами «Арика» стали банки и платежные системы. Наблюдая за каждым этапом сделки по мере ее протекания — каждый клик мышки на выпадающем меню, как обычно человек движется по сайту, — он стал неожиданно мощным инструментом борьбы с преступностью.

К примеру, система может сказать, если кто-то использует украденные банковские реквизиты для входа в систему. Красный флаг будет поднят, если человек использует веб-сайт, а его поведение не соответствует модели, которая привычна владельцу украденной информации.

Точно так же, если некто будет необычно вести себя на сайте, это может быть признаком того, что он вводит свои банковские реквизиты, возможно, под давлением или в состоянии стресса. Любая нерешительность поднимет тревогу у банка, он заинтересуется причинами и, возможно, поможет.

Конечно, программным обеспечением все не ограничивается, говорит Кирк Бресникер из Hewlett Packard. Чтобы сделать подобное выявление аномалий еще мощнее, Бресникер и его коллеги создают компьютеры, специально предназначенные для обработки плотных наборов данных, из которых обучаются программы с машинным обучением вроде «Арика». Аппаратное обеспечение Hewlett Packard — The Machine — добавляет огромное количество памяти каждому из своих процессоров, которые могут взаимодействовать между собой с поразительной скоростью.

В результате получается большой объем данных, которые могут проанализировать все и сразу, что очень важно для выявления аномалий во все более крупных и сложных данных. Hewlett Packard планирует заняться хакерами и вредоносным ПО, а не мошенниками. Но другие фирмы в Кремниевой долине тоже подключаются к этому. Intel недавно приобрела Saffron Technology, которая делает системы, способные обнаруживать и предотвращать мошенничество, благодаря мониторингу «хаотических неструктурированных данных». Featurespace также планирует модернизировать «Арика», совместив программное обеспечение с аппаратным побыстрее, чтобы минимизировать ложные сигналы.