Политическая теория технологии?

МЕНЮ


Новости ИИ
Поиск

ТЕМЫ


Внедрение ИИНовости ИИРобототехника, БПЛАТрансгуманизмЛингвистика, обработка текстаБиология, теория эволюцииВиртулаьная и дополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информации

АРХИВ


Сентябрь 2017
Август 2017
Июль 2017
Июнь 2017
Май 2017
Апрель 2017
Март 2017
Февраль 2017
Январь 2017
Декабрь 2016
Ноябрь 2016
Октябрь 2016
Сентябрь 2016
Август 2016
Июль 2016
Июнь 2016
Май 2016
Апрель 2016
Март 2016
Февраль 2016
Январь 2016
0000

RSS


RSS новости
Ураган харви в США

Новостная лента форума ailab.ru

2017-07-31 16:00

Угроза ИИ

Современная политическая теория тесно связана с понятием представительства. Мы говорим о том, что наши представители некоторым образом представляют нас в парламенте, выражая наши интересы. Тем не менее что значит «представлять» — это остается неясным и было неясным на протяжении истории всей политической философии. Один из способов ответить на вопрос «Что такое “представлять”?» — обратиться к семиотическому ресурсу и сказать «представлять» как означающее и означаемое. Собственно, одно из первых определений знака, принадлежащее Чарльзу Сандерсу Пирсу, как раз и предполагает, что знак — это что-то, что stands for, то есть стоит вместо, такой lieutenant, держатель места, заместитель. И в каком-то смысле наши депутаты — это наши заместители. Это люди, которые должны нас представлять, замещая нас в выполнении определенных функций.

Но, как мы понимаем, «представлять» — это еще не все. Недавняя работа Франклина Рудольфа Анкерсмита, такого замечательного историка, философа истории, показывает, что сама идея представления в парламенте — идея парламентаризма — возникает параллельно с идеей историцизма — идеей представления некоторого прошлого события в историческом нарративе. Представлять события в нарративе и представлять людей в парламенте оказывается чуть ли не двумя сторонами одного и того же процесса. Для того чтобы как-то его описать и проанализировать, Анкерсмит использует словарь эстетики — современной теории искусства. В каком-то смысле мы вдруг обнаруживаем, что такая, казалось бы, вялая область философствования, как эстетическая теория, оказывается общим знаменателем и мощным теоретическим ресурсом для ответа на вопросы одновременно и политической теории (вопроса о представительстве), и исторической теории (вопроса о репрезентации событий в повествовании).

Но это лишь один из заходов. Другой заход — посмотреть на представительство как на делегирование. Ведь наши депутаты нас не только представляют, а это также и операция уполномочивания, операция передачи прав на действие. Как в случае с замечательной фразой, произнесенной когда-то на Болотной площади, «вы нас даже не представляете». Благодаря Томасу Гоббсу мы знаем, что это два очень тесных аспекта одного и того же процесса: репрезентировать и делегировать. Представлять — значит, с одной стороны, означать того, кого вы представляете, с другой стороны — быть уполномоченным на совершение некоторых действий. Здесь обнаруживается другая любопытная пограничная зона — уже не между эстетикой, историей и политической теорией, а между политической теорией и социологией техники, потому что делегирование — это центральное понятие современной социологии техники. Благодаря работам Бруно Латура и Мишеля Коллона мы знаем, что наши отношения со смартфонами, автомобилями, со всеми теми техническими девайсами, которые нас окружают, — это отношения делегирования. Мы уполномочиваем навигатор вместо нас посчитать маршрут проезда до дома в час пик по Москве. Мы уполномочили наш смартфон хранить номера телефонов, которые еще 10–15 лет назад мы хранили в памяти. Мы делегировали огромному количеству девайсов, которые нас окружают, выполнение огромного количества работ, которые еще недавно выполняли сами.

Таким образом, если процесс технической эволюции — это процесс усложнения балансов делегирования, передачи все больших и больших работ другим техническим посредникам, то в каком-то смысле и политическая теория — это именно передача прав на действие. В чем тогда разница между депутатом и смартфоном? Депутат — это уже не просто лейтенант, который нас представляет, депутат — это в прямом смысле технический девайс. Но и технический девайс тогда, говорит Латур, — это депутат. Технический девайс — это тот, кто знает о вас больше, чем ваш представитель в парламенте, и ваш смартфон представляет вас гораздо лучше, чем ваш представитель в парламенте. Но что значит делегировать? Что именно делегируется? Мы можем говорить о трех осях делегирования. Первая ось — назовем ее условно законодательной — это когда мы делегируем девайсам некоторые функции расчета, контроля и прогнозирования. По старой памяти мы называем это фреймингом: мы делегируем нашему навигатору фреймировать для нас поездку до дома. Он лучше нас знает пробки, он лучше нас знает город, он лучше нас оценивает и рассчитывает ситуацию и предлагает нам некоторый сценарий действия.

Не так давно был случай, когда Тайя Кайл — программист и разработчик программного обеспечения, а также вдова солдата, погибшего в одной из операций в Ираке, — придумала стартап, который называется Smart rifle. Smart rifle — это Uber для снайперов. Он рассчитывает направление ветра, он рассчитывает расстояние до мишени, он подсказывает вам, как именно нужно действовать, в какую секунду вы должны нажать на курок. Более того, вы нажимаете на курок, но он дальше ведет вашу руку, для того чтобы идеально совместить прицел с целью, и сам решает, когда выстрел будет сделан. Но на курок все же должны нажать вы. В соревновании, организованном National Rifle Association (Национальной стрелковой ассоциацией), Тайя Кайл, девушка с плохим зрением, побеждает лучшего снайпера США, вооруженного своей любимой винтовкой, потому что у нее есть Uber, ею же разработанный. В этой ситуации Uber для убийства и ваш навигатор выполняют очень важную функцию — функцию расчета, функцию выбора оптимальной стратегии действия.

Но это законодательная власть. Есть еще ось исполнения решения, ось собственно действия. Ось фрейминга — определения ситуации — и ось действия в этой ситуации. Вы сами должны нажать на курок. Тайя Кайл сама нажимает на курок. Точно так же в случае с навигатором автомобиль сам себя не поведет. Но сегодня мы знаем, что автомобиль может прекрасно вести себя сам, и, кроме того, благодаря истории, связанной с использованием дронов, мы знаем, что дрон, управляемый из Невады, в случае потери связи с управляющим центром должен зависнуть над местом потери контакта, сделать несколько кругов и в случае, если контакт не восстановлен, вернуться на базу. При этом тактическая операция не будет выполнена, а солдаты могут погибнуть.

Недавние расследования Мэтью Пауэрса и Хью Гастерсона 2015 года показали, что программное обеспечение предполагало дальнейшее выполнение миссии в автономном режиме. Это означает, что дрон, который, потеряв связь с Невадой, продолжает выполнять миссию, продолжает убивать людей, исходя из собственного фрейминга, из того, как сам рассчитывает ситуацию. Выясняется, что точность поражения гораздо выше. В каком-то смысле те два человека, которые сидят в бункере в Неваде, — стрелок и наводчик — мешают дрону. Потому, с одной стороны, возникает огромное количество этических дилемм, связанных с автономным убийством людей машиной, с другой стороны, мы понимаем, что если машина может лучше нас рассчитывать ситуации нанесения выстрела, то в какой-то момент ей будет делегирована не только законодательная власть, но и исполнительная. И тогда разницы между дроном, который принимает и реализует решения, и, скажем, алгоритмом AlphaGo, который сначала рассчитывает ситуацию на доске, а затем делает ход, никакой не будет. Те же самые операции: полностью делегированный расчет ситуации, выполнение хода.

Но есть третья ось — ось судебной власти. Это ось квалификации решений, того, кто в конечном итоге будет принимать решение о том, было ли это решение правильным. Здесь пока никакого делегирования не наблюдается. Практически как в рассказе Виктора Пелевина про «таблицы наведения Савелия Скотенкова»[1 ]. Дрону можно делегировать расчет ситуации, алгоритмы уже давно рассчитывают за нас огромное количество ситуаций. Ему можно делегировать даже право на реализацию решения — собственно исполнение действия. Мы знаем на примере электронного трейдинга, что на некоторых рынках, где еще несколько лет назад акции держали на руках в среднем по четыре года, а сегодня четыре секунды, потому что мы уже делегировали алгоритму право покупать на наши деньги или продавать те или иные ценные бумаги. И за эти четыре секунды делаются состояния. Но мы не делегировали право судить. Мы сохранили за собой право и обязанности решать, было ли оправданно то или иное действие, был ли расчет произведен правильно. Даже у Пелевина дроны должны собрать всю необходимую информацию и представить убедительный нарратив на суд публики, но публика состоит не из дронов.

Однако уже сегодня мы обнаруживаем, что в перспективе вполне возможна передача судебных полномочий алгоритмам, которые будут принимать беспристрастные, взвешенные решения о том, насколько беспристрастно и взвешенно было реализовано другое решение. В 2016 году мы провели опрос, посвященный анализу того, насколько технооптимистичны граждане Российской Федерации, и обнаружили любопытную закономерность: у нас уровень поддержки введения робота-судьи, который бы принимал решения вместо судьи-человека, значительно выше, чем во многих европейских странах. Это уже довольно высокий процент людей. То же самое касается и поддержки беспилотного автомобиля. В каком-то смысле жители Российской Федерации сегодня доверяют технике гораздо больше, чем друг другу, и уж намного больше, чем существующим социальным институтам. Введение робота-судьи поддерживают люди, которые не доверяют судам. Введение беспилотного автомобиля — посмотрите, как водят в Москве.

Сегодня невероятный технооптимизм россиян соседствует с политическим пессимизмом, с довольно пессимистическими представлениями о человеческой природе и политическом устройстве в стране. Эти представления подстегивают технооптимистические настроения. Иными словами, мы вполне можем допустить, что в какой-то момент судебное решение точно так же будет делегировано, и тогда у нас оказывается довольно любопытная с точки зрения политической теории ситуация, при которой, делегируя расчеты — законодательство, делегируя исполнение — действие, делегируя квалификацию — судебные решения, мы по большому счету создаем новое политическое тело вместе с окружающими нас техническими устройствами. Такого рода политическое тело, то есть переход от делегирования к авторизации (тут я ссылаюсь на работу Константина Гаазе), будет означать, что само понятие суверенитета более не очевидно, само понятие представительства уже теперь совсем не очевидно.

И наконец, что тогда делать с нашими депутатами, тоже очень неочевидно. В каком-то смысле через три-четыре года политическая теория больше не сможет игнорировать технический прогресс так, как она делает это сейчас. Техника перестает быть пассивным посредником между людьми, она перестает быть просто еще одним элементом в социальных и политических отношениях. Возникают новые политические образования, возникает новая политическая реальность, и в этой политической реальности окружающие нас девайсы будут занимать куда более видимое место.


Источник: postnauka.ru