Kremlin Analytica: зачем администрации президента искусственный интеллект

«Коммерсантъ» сообщил, что власти более или менее определились со схемой управления развитием искусственного интеллекта (ИИ) в России. Сбербанк предложил создать в Москве специальную площадку, где он в партнерстве с мэрией будет экспериментировать в области ИИ и больших данных в рамках особого правового режима.

Данные: платежи, парковочные квитанции, диспансеризация, штрафы, записи в государственных и региональных информационных системах – анонимизируют и разрешат желающим пользоваться ими и даже предлагать решения для государственного и муниципального управления. Присматривать за экспериментами будет специальный совет: Сбербанк – Герман Греф, Кремль – Сергей Кириенко и Андрей Белоусов, мэрия – Сергей Собянин, плюс представители экспертного сообщества. Единственный правительственный чиновник в совете – вице-премьер Максим Акимов.

По сути, речь идет о том, что Кремль переводит развитие ИИ в режим ручного управления. На фоне событий в Москве это неудивительно. Интересы Сбербанка как главного дилера неолиберальных практик управления в стране и Кириенко как главного политического оператора в этом смысле давно совпадают. Сбербанк хочет выжимать из граждан максимум; экономика не растет; чтобы зарабатывать, нужны креативные неожиданные решения. Кремлю тоже пришло время выжимать максимум из избирателя, по той же причине.

ИИ окончательно превратит главу Сбербанка Грефа в коммерческого распорядителя ИИ, возникшего на государственные деньги. А также даст Кириенко возможность закончить дело, начатое в 2016 году, – перестройку политической машины Кремля, чтобы вместо телевидения избиратель в 2024 году получил хорошо таргетированный и скроенный под его интересы интернет-контент.

Возможности, которые получит Кремль, используя большие данные и ИИ, превзойдут те, что имели волшебники из Cambridge Analytica. Задумана не приватизация какого-либо конкретного сектора экономики (это уже происходит) или части общественной жизни, а приватизация всей цифровой, в том числе сетевой платформы развития экономики и общества.

Интеллект данных

ИИ – это цивилизационный сдвиг. Не в смысле пресловутой и мифической «технологической сингулярности» или постчеловечества здесь и сейчас, но в том же смысле, что и появление индустриальной цивилизации. Цивилизация данных не видит разницы между искусственным интеллектом и большими данными.

Если нет интеллекта, эти данные не имеют смысла. Пентагон не мог обрабатывать гигантский поток данных о Вьетнамской войне, который он собирал, и идея Макнамары о войне как системе поэтому и не сработала. Но если нет данных, интеллект – не более чем эксперимент или гаджет для разведки или штабной игры, нельзя симулировать многообразие и топологию реального потока больших данных.

Большие данные и искусственный интеллект – это одно и то же, онтология новой цивилизации: вычислительные ресурсы и обучающее их записываемое многообразие общества.

Что можно делать при помощи этого инструмента? Мегапроекты вроде перезапуска экономического роста в Калифорнии после 20 лет упадка. Данные и интеллект обнаружили глубинный цикл спада: сокращение налогов на доходы физлиц, сужение горизонта планирования местных властей, в итоге – депрессия. Те же интеллект и данные позволили спланировать коридор Аламида и преобразовать экономическую карту Калифорнии.

ИИ – это не чилийский «Киберсин», инструмент торжества плановой экономики, как хотели бы думать некоторые левые российские экономисты. ИИ дает доступ уже не к оптимизации цепочек производства и поставок, а к оптимизации среды. ИИ сможет найти неизвестные каузальные факторы будущих эпидемий (в том числе неинфекционных), спроектировать оптимальные сети электро- и теплоснабжения, вписать каждый регион страны в оптимальную дня него сеть социальных и экономических связей. Единственная доступная мне аналогия – управление погодой, когда климат полностью подчинен задачам развития, как в утопии братьев Стругацких.

Конкуренты России в области ИИ (прежде всего военного, специализированного ИИ), сознавая масштаб предмета, создали структуры управления его развитием таким образом, чтобы ни одна группа стейкхолдеров не имела монополии: ни военные, ни бизнес, ни Белый дом, ни политбюро.

В США вопросами развития ИИ на верхнем уровне управления занимаются Национальный совет по науке и технологиям и Департамент научной и технологической политики администрации президента, в каждом из органов есть подкомиссия по искусственному интеллекту. Внутри Министерства обороны за разработки также отвечают два центра принятия решений: DARPA и созданный в Пентагоне JAIC (Joint Artificial Intelligence Center).

В Китае внутри Госсовета под руководством премьера ИИ занимается постоянная группа по науке и образованию, ее состав обновляется каждые пять лет. В работу на регулярной основе включены семь министерств, Академия наук и государственный фонд научных разработок.

Эксперты отмечают, что Китаю легче удается мобилизовать ресурсы бизнеса на развитие ИИ, чем США: Google из-за протестов тысяч сотрудников вышел из совместного с Пентагоном проекта «Мэйвен», обрабатывавшего информацию с дронов в Ираке и Сирии. Но даже в КНР власти не решились предоставить какому-либо компетентному игроку (Huawei, Baidu или администрации Шанхая, например) преимущество в виде экспериментального монопольного управления развитием больших данных и ИИ.

ИИ по-русски

Управленческая схема, избранная для развития ИИ в России, показывает, что наших стейкхолдеров в близкой перспективе не интересуют глобальные возможности цивилизации данных. Интересует нечто иное. Сбербанк, судя по всему, в проекте будет отвечать за так называемую экономику подпихивания: способы стимулировать такое поведение, которое нужно тому, кто подпихивает. Кремль – за превращение ИИ в ресурс для построения непобедимой политической машины XXI века, примерно по аналогии с тем, что делала для Трампа Cambridge Analytica. Москва – просто полигон для испытания новых технологий.

Экономика подпихивания (nudge economics) основана на идее, что теоретически ИИ и большие данные могут дать возможность почти постоянно корректировать поведение человека в нужную сторону через систему создаваемых алгоритмами напоминаний, информационных кампаний, пуш-сообщений, вибрирующих устройств и прочих стимулов.

Грубо, яркий пример nudge economics – требование некоторых страховых компаний в США носить трекинг-браслеты и проходить нужное количество шагов в день, чтобы получить профсоюзную страховку или страховку со скидкой. Но формы подпихивания могут быть почти бесконечно разнообразными.

Понятно, зачем это нужно Сбербанку: если поведение человека управляемо, то управляемы риски и издержки, мы знаем, сколько проживет тот или иной заемщик, потому что будем управлять его жизнью, пока не закончится ипотечный договор.

Экономика подпихивания – сама по себе один гигантский эксперимент. Например, мы видим, как по-разному работают ее технологии, встраиваемые в учебный процесс в одних и тех же образовательных учреждениях. В некоторых университетах студенты на подпихивания не реагируют, а на финансовых рынках применение таких методов приводит к массовому обману неквалифицированных мелких инвесторов. Очевидно, что этот рынок не должен оказаться в руках монопольного игрока или нескольких игроков олигополии: экономический эффект он сможет дать, только если будет максимально локализован.

Да, теоретически банкомат Сбербанка сможет через несколько лет на глазок определять артериальное давление заемщика и даже порекомендует ему сходить к врачу или организует телевизит прямо у банкомата. Но экономика подпихивания и искусственный интеллект несоизмеримы по масштабу. Корректировать ежедневное поведение могла и католическая церковь, хотя и с огромными издержками. Корпоративные логики можно встраивать в государственное управление, но они не должны подменять его, а здесь речь идет именно об этом.

Кириенко в ИИ интересует вот что. С самого прихода в Кремль он формально дистанцировался от старого политического инструментария. Да, кандидатов снимают, оппозицию бьют, а блогерам и лидерам мнений по-прежнему, говорят, доплачивают за посты в фейсбуке, но все это происходит без былого энтузиазма, это кустарщина. Цель Кириенко – собрать такую технику для выборов, которая бы не нуждалась в этих самодельных инструментах.

Во время кампании 2018 года люди Кириенко впервые применили технологии таргетирования интернет-сообщений (Mail.ru, Youtube и так далее) на российском избирателе. Но выходило слишком грубо: подрядчики, по словам сотрудников Кремля, жаловались, что данных слишком мало, чтобы собрать модели нужных профилей, можно таргетировать только пол, возраст, геоданные и иногда расходы.

Технологии Cambridge Analytica, превратившие Дональда Трампа в президента США, были основаны на разработанной в 1960-е годы прошлого века модели психологического профилирования OCEAN (Openness, Conscientiousness, Extraversion, Agreeableness, Neuroticism), известной в России как «Большая пятерка». Проблема заключалась в том, что инструментом профилирования была анкета примерно из 120 вопросов. Но Cambridge Analytica удалось создать технику профилирования, где в качестве данных использовались не ответы на вопросы, а действия в фейсбуке.

Сто двадцать вопросов превратились в 253 параметра для оценки профиля человека. Предложив пользователям Facebook за небольшие деньги поучаствовать в разных обследованиях с небольшим количеством вопросов, компания получила данные миллионов профилей. Дальше – дело техники. Всех пользователей накануне выборов 2016 года разделили на определившихся и неопределившихся, и на неопределившихся обрушился град из точно таргетированных сообщений.

Эксперименты с ИИ на московской площадке помогут Кириенко настроить русскую вариацию OCEAN. Разница с Cambridge Analytica будет заключаться лишь в том, какого рода данные используют вместо 120 вопросов анкеты или 253 параметров профиля в фейсбуке. Скорее всего, речь пойдет о потребительском поведении, образе жизни, медицинских данных, неформальной сети экономических связей и так далее. Но нет сомнений, что такая модель будет создана и может оказаться вполне эффективной. Вместе с приватизацией будущего мы заодно получим сверхадаптивную политическую машину, сделанную по последнему слову науки и техники.

С широко закрытыми глазами

Никто не знает, чем закончится переход к цивилизации данных. Несколько центров руководства развитием ИИ – в каком-то смысле страховка от неожиданностей или авантюризма. Но в российском руководстве об этом, кажется, не задумываются. Набор вызовов и проблем трудно даже маркировать, часть из них – не риски, а опасности, нечто возникающее из применения ИИ, но не поддающееся прогнозированию даже самим ИИ.

Но кое-что сказать можно. Один из главных рисков для системы государственного управления – сужение горизонта управления, подавление инноваций и сжатие управленческого фокуса до процессов с быстрой информационной отдачей, то есть до «идеальных» с точки зрения формальной отчетности показателей, одинаково удобных регулятору и поддержанному государством бизнесу.

Другой риск – скатывание правительства в «циклы неисполнимости», сегодня контрольные показатели из одной статьи президента переносятся в другую, завтра они также будут переноситься из алгоритма в алгоритм, из одной компании по подпихиванию в другую.

Отдельный политический риск – вопрос о насилии. В Кремле почему-то бытует мнение, что ИИ сможет удержать монополию государства на насилие и без полков полиции и Росгвардии. Это опасное заблуждение. Локации, где государство видит преступление, но не может предотвратить, как показывает опыт ХХ века, быстро превращаются в гетто. Надежды на «супер-Призму» или робота-омоновца, которые навсегда усмирят улицу, не сбудутся, если демонтировать нынешнюю офлайн-инфраструктуру полицейского контроля.

Государство ставит перед собой задачу дооцифровать страну до уровня, приемлемого для цивилизации данных, но не обсудило с гражданами, кто, как и на каких условиях будет участвовать в ее создании.

Должен ли, например, принцип владения данными быть активным: может ли гражданин сам распоряжаться своими медицинскими записями и получать скидки за их передачу? Может ли коммерческий оператор исследовать данные на государственных платформах, данные с портала госуслуг и так далее и на каких правовых основаниях? Получив собранные данные и разработав технологию, например аналогичную использованной Cambridge Analytica, должен ли коммерческий оператор поделиться ею в виде разработки или научной публикации?

Смысл цивилизации данных в рывке вверх. Этот рывок не случится, если не осмыслить новые порядки возможностей интеллекта данных, если граждане молча откажутся от своих цифровых прав. Ни Сбербанк, ни Кремль не должны получить доступ к экспериментам в области ИИ в обход масштабной и нелицеприятной для них общественной дискуссии.