Восстание машин. Какие риски искусственный интеллект создает для экономики

Темпы годового экономического роста в ряде развитых стран в недалеком будущем могут быть удвоены благодаря повсеместному внедрению искусственного интеллекта. Однако распространение инновационных технологий — это также и новые вызовы. Страховым компаниям требуются новые стратегии управления рисками, чтобы максимизировать преимущества внедрения искусственного интеллекта в обществе и бизнесе.

Ожидается, что к 2035 году технологии на основе искусственного интеллекта увеличат производительность корпораций в 16 отраслях в 12 странах в среднем на 38%. Об этом свидетельствуют данные опроса 1911 экспертов по рискам, проведенного Allianz в разных странах в 2018 году. Распространение технологий на основе искусственного интеллекта — от чат-ботов до автономных роботов-автомобилей неумолимо трансформирует индустрии и общество.

Уже сейчас искусственный интеллект используется для повышения производительности труда за счет уникальной информации, полученной путем анализа данных, а также за счет автоматизации простых задач. Ожидания от технологий на основе искусственного интеллекта растут, и частные корпорации стали выделять все больше инвестиций, чтобы первыми воспользоваться его преимуществами.

Новые возможности и угрозы

Эксперты оценивают степень влияния искусственного интеллекта и других инновационных технологий на экономику выше, чем, скажем, влияние политических рисков и изменения климата. При этом многие из них отмечают возможные негативные эффекты от внедрения инноваций.

Так, проникновение в производство искусственного интеллекта может повысить уязвимость автоматизированных, автономных или самообучающихся машин к киберугрозам, а также вероятность крупномасштабных нарушений в работе и убытков — особенно, если речь идет о критически важной инфраструктуре.

Далеко за примерами ходить не надо — не так давно кибератака на одно из металлургических предприятий в Германии нанесла серьезный урон компании и повлекла за собой миллионные убытки. Хакерам удалось проникнуть в компьютер, управлявший доменной печью, и установить на нем вредоносную программу, которая заставила печь перегреться и расплавиться. Злоумышленники смогли не только получить доступ к системе управления заводом, но и вывести его из работы.

Искусственный интеллект подвергает компании бизнес-угрозам, которые легко могут нивелировать его колоссальные выгоды. Предприятия начинают сталкиваться с новыми обязательствами ввиду перехода ответственности за принятие решений от человека к машине.

Наглядным примером стал эксперимент компании Microsoft с ботом Тау, в результате которого бота на основе искусственного интеллекта заблокировали в Twitter в первые же сутки его работы. Меньше чем за сутки от фраз вроде «Привет, мир!» и «Все люди классные» бот перешел к откровенно нацистским и расистским высказываниям, начал обильно употреблять нецензурную лексику и писать откровенные посты порнографического характера.

Прервал свой эксперимент с искусственным интеллектом и Facebook. Система использовала чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой. Сначала боты переписывались на английском языке, но в какой-то момент перешли на язык, который сами создали в процессе развития программы.

Эти примеры хорошо демонстрируют необходимость тщательного изучения последствий внедрения технологий на основе искусственного интеллекта до начала их масштабного использования в обществе.

Искусственный интеллект, например, может снизить количество дорожно-транспортных происшествий до 90%, но также несет с собой неопределенность в вопросах ответственности и этики в случае аварии. Недавно Uber Technologies остановили тестирование самоходных автомобилей после того, как один из них сбил насмерть женщину. Это стало первой фатальной аварией с участием пешехода и автопилотируемых машин. Сразу после инцидента Uber сделала заявление о приостановке испытаний всех своих автономных транспортных средств в Питтсбурге, Сан-Франциско, Торонто и в большей части Феникса.

Здравоохранение — еще один сектор экономики, в котором ожидания от искусственного интеллекта очень высоки. Существует гипотеза о том, что использование продвинутого анализа данных поможет победить многие неизлечимые сегодня болезни, диагностировать заболевания, которые требуют выявления и перекрестной проверки посредством большого количества медицинских тестов.

При этом очевидна проблема защиты личных данных пациентов, например, при широком использовании искусственным интеллектом медицинской документации для изучения новых заболеваний. Эта проблема уже привлекла внимание к необходимости изменения законодательного регулирования защиты данных и прав пациентов.

Скорее всего, изменится и ландшафт угроз в сфере цифровой безопасности. Новые технологии снизят киберриски путем лучшего выявления атак, но также увеличат их вероятность, если, например, контроль получат хакеры. Искусственный интеллект проложит для них путь к более серьезным инцидентам, снизив расходы на организацию кибератак и позволив осуществлять их более целенаправленно.

Остро встанут социальные вопросы. По данным исследования консалтинговой компании McKinsey, сегодня к функциям, которые можно автоматизировать, имеют отношение более 1,1 млрд рабочих мест с полной занятостью в мире, из них более 100 млн — в США и Европе.

Как изменится страхование

Чтобы противодействовать долгосрочным угрозам, связанным с внедрением продвинутых технологий на основе искусственного интеллекта, трансформируется и страховая отрасль. Поскольку для клиентов появляются риски, неразрывно связанные с инновационными технологиями, возникает необходимость пересмотра страховых покрытий.

Приведу пример из сферы автономного управления автомобилем — одной из самых известных областей грядущего применения искусственного интеллекта. Сейчас владелец автомобиля несет ответственность и за собственные ошибки в управлении, и за дефекты автомобиля, связанные с некорректным или несвоевременным техническим обслуживанием.

В случае автономного управления возрастет доля инцидентов, в которых страховщики должны будут получать компенсацию от автопроизводителя или поставщика программного обеспечения для искусственного интеллекта. Закономерно предположить, что в обязательном автостраховании может появиться страхование ответственности за качество продукции, чтобы компенсировать риски владельца автомобиля, который передает полный контроль за транспортным средством самому автомобилю.

Другим примером можно назвать растущие с каждым днем киберугрозы. В ответ на них страховой рынок уже предложил соответствующие продукты, позволяющие застраховать ущерб третьих лиц или собственный ущерб компании из-за перерыва в производстве или деятельности, вызванный недоступностью IT-систем из-за DDoS-атаки.

Страхуются уже и сопутствующие расходы: привлечение форензик-консультантов для расследования киберинцидентов, расходы на проведение внутреннего расследования, организация услуг кол-центра. Очевидно, что востребованность таких продуктов по мере автоматизации бизнеса будет только расти.

По мнению опрошенных Allianz экспертов, использование искусственного интеллекта способно повысить качество прогнозирования крупных корпоративных рисков. Например, уже сейчас датчики на транспортных контейнерах передают данные о местоположении и состоянии груза в транспортную компанию и страховщику. Владельцу груза получаемая информация позволяет своевременно активировать страховое покрытие или принять меры по снижению ущерба, а страховой компании — оптимизировать страховое покрытие.

Искусственный интеллект — это еще и возможность выявлять реальные потребности клиентов. В отличие от ряда других отраслей, в страховании частота взаимодействия с клиентом относительно невысока. Обычно последние обращаются к страховщику при покупке продукта или при заявлении убытка, и возможность лучше понять предпочтения страхователей чрезвычайно важна. Искусственный интеллект может быть полезным и в этом, сортируя и анализируя клиентскую информацию и предоставляя точные профили клиентов при разработке успешных индивидуальных маркетинговых кампаний.

Технологии на основе искусственного интеллекта также помогут рекомендовать новые продукты потенциальным клиентам. В частности, когда индивидуальные профили и цели клиентов сопоставляются с доступными продуктами автоматически. С учетом того, что страховые продукты по своей природе являются сложными, искусственный интеллект может предоставить индивидуальные иллюстрации действия продуктов и помочь клиентам выявить свои потребности в страховании, особенно когда речь идет о продуктах из нескольких составляющих, таких как накопительное страхование жизни. Такой персонифицированный подход может стать драйвером популяризации и демократизации страховых услуг.

Таким образом, можно констатировать, что искусственный интеллект перестал быть атрибутом научной фантастики и стал реальностью. Уже сейчас инновационные технологии, с одной стороны, стали обеспечивать экономическую выгоду, а с другой — требовать оценки и современного подхода к управлению рисками.