ПЕРСПЕКТИВЫ В ОБЛАСТИ ЭМЕРДЖЕНТНОЙ СВЯЗНОСТИ, ОСМЫСЛЕНИЯ И АСИММЕТРИЧНОГО УПРАВЛЕНИЯ РИСКАМИ

МЕНЮ


Главная страница
Поиск
Регистрация на сайте
Помощь проекту
Архив новостей

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


Дэйв Сноуден

Осмысление и управление рисками

Рано или поздно любой стране приходится сталкиваться с проблемами и дилеммами, связанными с терроризмом. В действительности многие государства когда-то сами были террористами: достаточно вспомнить старую максиму — «кому террорист, а кому борец за свободу». Примеров тому — если не по форме, то по содержанию — в исторической науке не счесть, начиная еще со времен Древнего Рима, а скорее всего, и много раньше. Однако в современную эпоху мы, кажется, столкнулись с новой, более всепроникающей формой терроризма, предвестниками которой можно назвать террористов-нигилистов XIX века, хотя и это сходство лишь частично. Способность сетей самостоятельно заменять часть собственных структур (в том числе руководящих) на основе связности узлов проявилась сравнительно недавно, однако это далеко не самое опасное явление. Гораздо большую угрозу представляет способность идеологически связанного сообщества генерировать несрежиссированную террористическую деятельность. Суть этой проблемы можно описать как «эмерджентную связность», а её возможное решение, вкратце описанное в настоящей статье, — как «натурализованное осмысление». В своих рассуждениях я исхожу из того, что существующие подходы к сбору и интерпретации данных и последующему выбору ответных мер хотя и весьма практичны, но в конечном счете ограничены. Нам следует переключиться на более универсальные сенсорные сети, способные самостоятельно генерировать информацию, то есть, по сути, бороться с врагом его же оружием.

Термин осмысление можно интерпретировать по-разному, но для целей настоящей статьи я предлагаю следующее определение: как нам понять мир, чтобы суметь в нем действовать? Говоря о натурализованном осмыслении, я отталкиваюсь от естественных наук и связываю его с философским понятием натурализованной эпистемологии. Другой ключевой аспект натурализованного подхода заключается в том, чтобы понять естественное поведение людей и построить систему, исходя из этого понимания. Прежде всего такой подход отвергает возможность создания идеалистической системы, основанной на том, каким мы хотим видеть мир и поведение человека в нем, и вместо этого базируется на естественнонаучных знаниях и прагматизме. Основные результаты этого анализа можно резюмировать следующим образом:

• Полностью осознанное или рациональное поведение встречается куда реже, чем мы привыкли считать. Как правило, мы реагируем на ситуацию сопоставлением ограниченных наборов данных с прошлым прямым или опосредованным опытом, хранящимся в нашей долгосрочной памяти в виде паттернов (не путать с ментальными моделями). Мы также комбинируем или связываем не связанные между собой паттерны скорее наугад, нежели основываясь на каком-то анализе. Что особенно важно, при этом мы исходим из критериев минимального соответствия, не пытаясь что-либо оптимизировать. Иными словами, мы используем первый мало-мальски подходящий паттерн. После же того, как решение принято (нами или кем-то еще), мы будем пытаться его обосновать с позиций рационального поведения. То есть, если мы видим, что кто-то закрыл один глаз, мы автоматически считаем, что этот человек подмигнул, а не моргнул. Таким образом, случайное поведение — наше собственное или противника — интерпретируется как результат осознанных, спланированных решений, тогда как в реальности оно чаще всего носит оппортунистический характер, как минимум частично.

• Наука даёт нам всё больше свидетельств того, что некоторые вещи просто “таковы, каковы они есть» — они не причинно-следственные по своей природе (Курц и Сноуден, 2003). Взаимодействие агентов друг с другом формирует паттерны, некоторые из которых подкрепляются и поэтому усиливаются. В какой-то момент такой паттерн может стабилизироваться до такой степени, что начнёт притягивать других агентов и станет «реальностью». В качестве примеров можно привести кризисы на фондовом рынке или распространение новых технологий (как в случае с Betamax и VHS). Как только паттерн стабилизируется, сломать его можно, лишь приложив значительные усилия. В этом суть проблемы обнаружения слабых сигналов — если мы заметим вырисовывающийся паттерн достаточно рано, то можем либо сломать его, если он отрицательный, либо усилить — если положительный. Однако, как правило, к тому моменту, когда у нас есть достаточно подтвержденных данных для того, чтобы начать действовать, сломать сложившийся паттерн уже или невозможно, или можно, но ценой огромных издержек. Исследования сложных адаптивных систем не касались тех из них, которые не базируются на причинно-следственных связях. К сожалению, теория систем и теория принятия решений также по большей части исходят из наличия причинно-следственных связей. В результате усилия, которые мы предпринимаем для сценарного планирования и других способов анализа в попытке обнаружить и предсказать причинно-следственные связи, являются пустой тратой времени и — более того — могут помешать нам заметить появление новых паттернов, пока не будет уже слишком поздно. Еще одна проблема традиционных подходов заключается в том, что в сложной системе события не повторяются, кроме как случайно. Это значит, что подходы, основанные на лучших практиках и ретроспективном анализе прошлых неудач или успеха, имеют ограниченную ценность.

• Мы уже более десяти лет занимаемся управлением знаниями как профессиональной дисциплиной, и кое о чем уже можем говорить с уверенностью. Во-первых, проблема так называемых «колодцев» или изолированных структур никуда не денется; попытки заставить людей делиться информацией или знаниями просто потому, что эти данные могут кому-то понадобиться в будущем, провалились. В то же время, когда людей просят предоставить конкретную информацию, в которой уже возникла реальная потребность, они обычно готовы поделиться тем, что им известно. Во-вторых, люди вспоминают о том, что они что-то знают, когда им это необходимо — то есть им нужны контекстуальные триггеры, и они не могут предвидеть или планировать свои информационные потребности. Наконец, в-третьих, — и это критически важно, — мы всегда знаем больше, чем можем сказать, и всегда готовы сказать больше, чем можем написать (Сноуден, 2002). Крайне ограниченным будет представление о знании как о чем-то, что либо содержится в чьей-то голове (существует в неявном виде), либо зафиксировано на письме (в эксплицитной форме). На практике людям гораздо удобнее оперировать нарративными формами знания как для хранения информации, так и для ее передачи. Мы также экспериментально показали, что в случае со сложными ситуациями нарративная форма позволяет обнаружить куда больше слабых сигналов, чем аналитическая оценка.

От осмысления к определению политики

Что эти принципы означают на практике? Основываясь на описанных выше теориях и на экспериментальном опыте создания новых методик и разработки программного обеспечения (Лазарофф и Сноуден, 2006), мы можем с уверенностью сделать несколько выводов, изложенных ниже. Все они требуют более детальной проработки, но при необходимости их можно аргументированно обосновать:

• Ни одна система не может сама по себе предсказать готовящуюся террористическую атаку. Оценивать полезность системы или человека с позиций их способности предсказывать непредсказуемое расточительно и опасно. Если кому-то в прошлом и удалось это сделать, вероятнее всего, им просто повезло. Поскольку людей, которые занимаются предсказаниями будущего или рассылают письма с предупреждениями, очень много, то просто по законам статистики некоторые из них окажутся правы и в момент, когда начнется расследование уже случившегося факта, смогут сказать: «А я вас предупреждал!» или «Если бы они меня послушали...».

• Хотя мы не можем предсказать результат, мы вполне можем знать достаточно об исходных условиях и природе аттракторных и барьерных механизмов (Сноуден, 2005), которые могут повлиять на эволюцию системы в хорошую или плохую сторону. Мы будем действовать куда эффективнее, если сможем разобраться в среде, из которой могут возникнуть те или иные события, и, следовательно, повлиять на неё. Иными словами, не нужно пытаться предсказывать события, вместо этого следует лучше управлять контекстом и за счет этого делать их менее вероятными.

• Ключевое значение имеет обнаружение слабых сигналов. Чем раньше мы заметим возможность возникновения паттерна, тем легче сделать его более или менее вероятным. Однако эмпирические данные обычно появляются лишь тогда, когда слабый сигнал превращается в сильный, а к тому времени уже становится слишком поздно. В борьбе с терроризмом нам следует уйти от крайне затратного понимания безопасности как полного отсутствия сбоев, вместо этого сосредоточившись на (куда менее капиталоемком) создании среды, в которой такие сбои не будут угрозой для безопасности.

• Нам следует обмениваться данными о данных (метаданными), а не данными внутри изолированных структур или между ними. Выявление паттернов в метаданных позволяет запрашивать конкретную информацию тогда, когда это становится необходимо. Метаданные могут поступать из систем, связанных с той или иной изолированной структурой, но при этом не связанных напрямую с борьбой с терроризмом. Например, если у меня есть возможность искать паттерны в метаданных министерства здравоохранения и министерства социальной защиты, то у меня нет необходимости запрашивать сложную и конфиденциальную информацию для того, чтобы обнаружить связь между вектором заболеваемости и социальным вектором в контексте террористической угрозы. Установить эту связь я смогу потому, что каждое ведомство гораздо эффективнее выполняет свои прямые задачи и, следовательно, собрало по ним гораздо более обширные наборы данных, чем если бы им было поручено искать данные, непосредственно относящиеся к террористическим угрозам, о которых у них есть лишь весьма ограниченное представление.

• Если паттерны, на основе которых мы принимаем решения, частично определяются изустной информацией, то сбор и анализ такой информации в большом объеме и без интерпретации экспертами (чтобы избежать предвзятости) становится ключом и к определению характера угрозы, и к пониманию того, какой она будет иметь резонанс и у кого. Нам также следует помнить о том, что паттерны личного опыта наших аналитиков будут определять то, на что именно они обратят внимание в процессе анализа больших объемов данных, и — следовательно — критически важно выявить и учитывать эту предвзятость.

• Мы не можем с уверенностью полагаться ни на сети тайных агентов (достаточно вспомнить секретную полицию Штази в бывшей Восточной Германии – благодаря ее усилиям на каждые 50 жителей страны приходился один информатор), ни на чисто технологические средства. Последний подход предполагает огромные инвестиции в попытки создать компьютер, который сможет заблаговременно предупреждать нас о будущих террористических атаках. Вместо этого следует строить распределённые сенсорные сети с использованием человеческого и искусственного интеллекта, тем самым имитируя то, как наш собственный мозг генерирует инсайты.

• Зачастую лица, принимающие ключевые решения (ЛПР), в момент принятия этих решений слишком плотно изолированы от сырых данных: между ними и исходной информацией слишком много слоев интерпретаций. Получаемая ими информация уже была слишком много раз интерпретирована. Это чревато эффектом «доверенного советника», когда полчища консультантов и мелких начальников делают всё, чтобы «защитить» высокопоставленных ЛПР от «неудобной правды» — доверимся нашим парням, а гонца пристрелим. Отказ от одномерной и слишком упрощенной визуализации сложной информации «на одной странице» в пользу работы с сырыми необработанными данными не только позволяет решить эту проблему, но и повышает способность и готовность людей к реальным действиям.

В процессе осмысления можно выделить три проблемы:

• Видим ли мы данные?

• Обращаем ли мы на них внимание?

• Будем ли мы сами (или те, кому мы это поручим) реагировать на эти данные?

Это отдельные проблемы, требующие взаимосвязанных, но отдельных решений. Традиционная теория принятия решений исходит из того, что если нужную информацию показать нужным людям, то они начнут действовать. Увы, но это фундаментальное заблуждение.

Контекст борьбы с терроризмом характеризуется высокой сложностью и неопределенностью. И в этой борьбе методы и подходы, предполагающие наличие во всем причинно-следственных связей и исходящие из концепции безопасности как полного отсутствия сбоев, очевидно обречены на провал. Хуже того — это поставит под угрозу тех людей, интересы которых избранные ими правительства призваны защищать. Натурализующее осмысление позволяет не только исследовать системы, которым присущ очень высокий уровень неопределенности, но и понять, как работает человеческий мозг. Антитеррористические системы нового поколения должны быть нацелены не на полное предотвращение сбоев, а на создание условий, делающих эти сбои безопасными. Они должны сочетать результаты исследований сложности с достижениями когнитивных наук, чтобы помочь нам лучше разобраться в контексте. Чтобы получить симметричное преимущество в борьбе с тысячами асимметричных противников, необходимо управлять экологией терроризма и стремиться выиграть эту войну прежде всего на когнитивном уровне.


Источник: vk.com

Комментарии: