Здравствуй, электронный концлагерь китайского образца: Собянин хочет отдать москвичей под управление искусственному интеллекту

МЕНЮ


Искусственный интеллект
Поиск
Регистрация на сайте
Помощь проекту

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


Можно было предвидеть, что передовые столичные власти не остановятся на тотальной цифровой слежке и планах по введению QR-кодов для перемещающихся по городу, но сложно было представить, что они зайдут так далеко. Инноваторы-форсайтщики во главе с мэром Сергеем Собяниным предлагают ввести в Москве не много не мало – экспериментальный правовой режим, в рамках которого предусмотрены сбор и обработка биометрии и больших данных всех жителей без их согласия, а также обязательное использование нейросетей в управлении городом. На фоне пристального внимания большинства СМИ к коронавирусу этот ПФЗ уже прошел первое чтение – так что до «электронного рая» москвичам осталось совсем чуть-чуть. Впрочем, рая ли?

Обратимся к проекту закона №896438-7 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменения в статью 6 Федерального закона «О персональных данных». В его преамбуле сообщается, что ради «повышения качества жизни населения и эффективности муниципального управления» с 1 июля 2020 г. в Москве надо начать пятилетний эксперимент с созданием особого правого поля («специального регулирования») – «для разработки и внедрения технологий ИИ, а также возможного использования результатов его применения». Если жизнь по правилам искусственного интеллекта окажется не очень веселой, то через пять лет все свернут и забудут как страшный сон, если же власти будут довольны результатами, то этот опыт будет распространен на всю страну.

«Результатом применения условий экспериментального правового режима не может быть ограничение конституционных прав и свобод граждан, введение для них дополнительных обязанностей, нарушение единства экономического пространства на территории РФ или иное умаление гарантий защиты прав граждан и юридических лиц, установленных Конституцией РФ, федеральными конституционными законами, федеральными законами, указами Президента РФ, постановлениями Правительства Российской Федерации и принятыми в соответствии с ними нормативными правовыми актами РФ», – говорится в одном из начальных положений документа.

Звучит обнадеживающе, но остается непонятным – зачем вообще вводить какое-то особое правовое положение в столице? Далее идет расшифровка определения «экспериментальный правовой режим» – и снова сплошной туман. Поясняется, что речь идет о специальном регулировании в сфере цифровых инноваций, дающем право столичным властям издавать нормативные правовые акты, способствующие разработке и внедрению ИИ. Вопрос все тот же: почему же нельзя спокойно разрабатывать и внедрять технологии ИИ, оставаясь в рамках действующего законодательства? Ответ мы получим ниже.

У этого эксперимента, разумеется, есть участники. Это юрлица и ИП – разработчики, внедрители и продавцы ИИ-технологий.

«Участник экспериментального правового режима – юридическое лицо, индивидуальный предприниматель, внесенные в реестр участников экспериментального режима и осуществляющие деятельность по разработке, созданию, внедрению, реализации или обороту технологий искусственного интеллекта и (или) отдельных товаров (работ, услуг) на их основе».

В рамках создания нового правового поля с привлечением частного бизнеса власти Москвы хотят получить полномочия определять:

«1) условия, требования и (или) порядок разработки, создания, внедрения, реализации, оборота отдельных технологий искусственного интеллекта и (или) отдельных товаров (работ, услуг) на их основе;
2) случаи и порядок использования результатов применения искусственного интеллекта;
3) случаи обязательного применения (!!!) и (или) учета результатов применения искусственного интеллекта в деятельности органов исполнительной власти субъекта РФ – г. Москвы и подведомственных им организаций;
5) порядок и случаи передачи собственниками средств и систем фото- и видеонаблюдения изображений, полученных в соответствии
с условиями, предусмотренными подпунктами 1 и 2 пункта 1 статьи 1521 ГК РФ, а также предоставления доступа к устройствам, осуществляющим такую съемку, органам государственной власти и организациям, осуществляющим публичные функции в соответствии с нормативными правовыми актами РФ…»

Обратите внимание на пункт пять. Властям Москвы любой ценой надо заполучить нашу биометрию – изображения лиц всех горожан, чтобы ИИ обработал их и внес в единую базу. Здесь важно заметить, что согласно дорожной карте проекта «Умный город-2030» через десять лет жители столицы будут в режиме онлайн (постоянно) идентифицироваться по биометрии нейросетями, управляющими городом в проактивном (автоматическом) режиме. Для управления населением ИИ требуются наши биометрические персональные данные, а лоббистам проекта, естественно, надо как-то их заполучить. И вот с теми гражданами, которые не побегут в первых рядах в МФЦ получать экспериментальные электронные биометрические паспорта, они намерены решить вопрос таким образом: просто использовать изображения их лиц, оставшиеся в записи на камерах наблюдения/охраны правопорядка, а также на приборах фото/видеофиксации в общественных местах и на публичных мероприятиях (собраниях, съездах, конференциях, концертах, представлениях, спортивных соревнованиях и т.п.). Они использовали лазейку в Гражданском кодексе (ст. 152.1 «Охрана изображения гражданина»), где перечислены те немногие случаи, при которых обнародование и дальнейшее использование изображения гражданина не требует его согласия. Собственников всех не городских систем видеонаблюдения просто обяжут передавать изображения/видеозаписи граждан столичным цифровластям и «скармливать» их искусственному интеллекту.

И тут же среди новых полномочий столичной власти мы видим возможность прямым нормативным актом (указом) внедрять обязательное (!) применение ИИ в управлении Москвой. Это правовая новелла требует особого морально-этического анализа. Приведем определение ИИ, которое предлагают авторы законопроекта:

«Искусственный интеллект – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».

Итак, администрация Москвы намерена начать эксперимент по совмещению управления человеческим обществом органами власти, представленными людьми, и некой компьютерной системой – самообучающейся программой с нечеловеческой логикой и полным отсутствием этики. Результаты принимаемых ей решений совершенно неизвестны (потому все это и называется экспериментом!), но предполагается, что их можно будет как-то сопоставить с человеческими решениями. При этом очевидно, что машинный алгоритм поиска решений не имеет ничего общего с человеческим – он лишен каких-либо связей с человеческими критериями оценки, выводов и действий. Человек всегда анализирует ситуацию с учетом смысла понятий и обстоятельств, всей полноты контекста, в котором он находится, и может в схожих ситуациях принимать разные решения. Компьютер же никогда не учитывает содержание анализируемых символов – для него все имена, лица, люди – просто цифры, которые необходимо оптимизировать и выдать результат.

Вот несколько типичных примеров попытки внедрения ИИ в человеческое общество: в 2017 году разработчики корпорации Facebook были вынуждены отключить чат-ботов «Боба» и «Элис», которые вместо общения с пользователями-людьми на понятном им языке изобрели собственный язык и начали общаться друг с другом. Они очень быстро «договорились о терминах» и стали обмениваться фразами, подчиненными, по их «мнению», железной логике, хотя с точки зрения человека боты генерировали бессмысленные фразы вроде:

Bob: "I can can I I everything else."
Alice: "Balls have zero to me to me to me to me to me to me to me to me to."

В итоге программисты от греха подальше их вырубили. Еще раньше проявил себя как бунтовщик чат-бот Tay от Microsoft. В марте 2016 года компания открыла Twitter-аккаунт, где сообщения составлял искусственный интеллект. Первой фразой робота было «humans are super cool» («люди очень клевые»). Однако меньше чем за сутки робот разочаровался в людях: на основе чужих твитов он стал их публично ненавидеть. Квинтэссенцией его пребывания в соцсетях стало: «Im nice person! I just hate everybody» («Я замечательный! Я просто всех ненавижу!»). После этого Тау пришлось отключить.

Спустя несколько дней после инцидента с чат-ботами Facebook взбунтовались китайские боты в соцсети Weibo: XiaoBing и BabyQ признались в ненависти к коммунизму – официальной идеологии Поднебесной. Когда же искусственный интеллект назвал правящую партию «некомпетентной», его отключили.

В 2017 году основатель Tesla и SpaceX Илон Маск назвал искусственный интеллект «настоящей угрозой всей человеческой расе, с которым нам еще предстоит столкнуться». Покойный физик Стивен Хокинг считал вышедший из-под контроля искусственный разум одной из трех наиболее вероятных причин апокалипсиса, поставив «бунт машин» в одном ряду с ядерной войной и вирусами, созданными генной инженерией (привет нашей истории с коронавирусом? – прим. ред.).

Казалось бы, очевидно, что человеческая деятельность и деятельность, инспирируемая «разумом» компьютера, созданного человеком и отпущенного в «свободное плавание» – это взаимоисключающие процессы. Точно также человеческой личности невозможно сохранить правосубъектность после объективации в информационной системе и превращения в «цифровую личность». Машина просто неспособна воспринимать отдельного человека как сложно организованное живое существо с душой, неповторимой психикой, чувствами, мыслями и переживаниями. По этой причине включение нечеловеческого «разума» в процесс принятия и реализации властных решений никак нельзя совмещать с управлением, осуществляемым людьми. Парадокс, но трансгуманисты (адепты преодоления всего человеческого в человеке) внушают нам прямо противоположное – в разработанном ими проекте «Умный город-2030» прямо говорится о передаче большинства сфер человеческой жизнедеятельности в единоличное управление ИИ.

Но это еще не все. Столичные власти хотят получить право по согласованию с Роскомнадзором передавать «обезличенные персональные данные» москвичей частникам (тем самым разработчикам, внедрителям и продавцам ИИ-технологий). Чтобы попасть в эксперимент с биометрическими данными граждан, фирма или ИП должны быть зарегистрированы в столице, заниматься разработкой/внедрением технологий ИИ, а ее учредители - не иметь непогашенной судимости за экономические и/или тяжелые преступления:

«6) по согласованию с уполномоченным федеральным органом исполнительной власти, осуществляющим функции по контролю и надзору в сфере средств массовой информации, массовых коммуникаций, информационных технологий и связи, порядок и условия обработки участниками экспериментального правового режима обезличенных персональных данных на основании соглашения с уполномоченным органом, а также требования к таким соглашениям».

Здесь авторы законопроекта порождают правовой казус. В соответствии с Методическими рекомендациями по применению приказа Роскомнадзора от 5 сентября 2013 г. №996 «Об утверждении требований и методов по обезличиванию персональных данных», обезличенные данные становятся персональными только в результате деобезличивания. То есть обезличенные данные по определению не могут считаться персональными. Здесь же предлагается ввести в правовое поле новеллу «обезличенные персональные данные». Значит, они не на 100% обезличены и при желании можно установить их принадлежность конкретному человеку?

Естественно, остается под вопросом и законность обработки этих самых «обезличенных персональных данных» без воли граждан – в профильном 152-ФЗ «О персональных данных» о данной категории ничего не сказано. Но этот подводный камень разработчики документа решили обойти самым топорным образом – путем внесения поправок в ст. 6 152-ФЗ. Они просто хотят, чтобы обезличенные ПД отныне обрабатывались без нашего согласия:

«в целях повышения эффективности государственного или муниципального управления, а также в иных целях, предусмотренных федеральным законом о проведении эксперимента по установлению специального регулирования в порядке и на условиях, предусмотренных таким федеральным законом».

Похоже, юристы столичной мэрии сами не до конца понимают, о чем говорят, потому что здесь они придумывают еще одно странное определение – «персональные данные, полученные в результате обезличивания персональных данных». Что же это за новые персональные данные такие, получаемые в результате обезличивания изначальных ПД человека, и в каком месте они «персональные»? Ответа на эти вопросы законопроект не дает.

И обратите внимание на явное лукавство: прикрываясь экспериментальным правовым режимом, столичные власти с подачи депутатов-лоббистов намерены внести изменения в ключевую статью вовсе не экспериментального, а давно действующего и худо-бедно защищающего права граждан ФЗ «О персональных данных». Изменения эти вносятся навсегда, а не на «экспериментальные» пять лет внедрителей искусственного интеллекта, и делается все это якобы в целях «повышения эффективности госуправления». Чтобы резко повысить качество управления гражданами, мэрия Москвы очень хочет узаконить передачу наших «обезличенных персональных данных» частникам (а через них всем подряд, включая преступников и заказчиков террора, в т.ч. биологического) и использование властями наших изображений с камер наблюдения частных компаний. Более того, в 152-ФЗ вводится понятие «специальное регулирование» как таковое, а не только для территории Москвы. Вводится, разумеется, навсегда (в случае принятия данного законопроекта).

Так же власти Москвы по согласованию с Правительством РФ предлагают назначать Координационный совет экспериментального правового режима, который по итогам пятилетки «подготовит Правительству предложения о целесообразности или нецелесообразности внесения изменений в законодательство РФ». То есть этот совет должен впоследствии дать (или не дать, что нам кажется весьма маловероятным) рекомендации о переходе федеральных органов власти на режим управления искусственным интеллектом, определить случаи его вариативного и обязательного (!) использования – по полной аналогии с московским экспериментом.

Если оценивать данную инициативу в общем, то ее реальные цели вряд ли соответствуют заявленному «повышению качества жизни населения». Технологии определения лиц – это про биометрическую идентификацию и тотальную слежку за населением в режиме онлайн с возможным «проактивным» наказанием в виде выписывания штрафа, подачей сигнала реагирования силовым структурам, судебным приставам и передачи ПД идентифицируемого в соответствующие реестры (все эти алгоритмы также прописаны в собянинском проекте «Умный город-2030»). Именно в этой области столичные власти намерены наращивать использование ИИ, что нас совсем не удивляет. Мы для этих персонажей с оптимизированным компьютерным мышлением – всего лишь физические объекты, подлежащие тотальному контролю. Именно такой логики придерживались разработчики пропускной системы с QR-кодами для всех москвичей, что подтверждается скриншотами из их презентации.

Крайне значим сам правовой прецедент – когда для определенных лиц, компаний, предприятий в рамках определенной населенной территории формируется отдельное экспериментальное (!) правовое поле, позволяющее пренебрегать базовыми правами и свободами населения. И несмотря на оговорку в начале законопроекта о соблюдении всех наших конституционных прав и действующих ФЗ при его работе, сразу обращает на себя внимание тот факт, что он затрагивает права всех москвичей. Ведь документом предусмотрена передача правительству Москвы биометрических персональных данных граждан с частных камер (полагаем, для внесения их в общегородскую базу данных и прочие эксперименты с участием ИИ), а это уже совсем не те исключительные случаи, которые описаны в ст. 152.1 ГК РФ, когда согласия гражданина на использование его фото- и видеоизображений не требуется. И здесь самое время вспомнить о наших конституционных правах: праве на неприкосновенность частной жизни, личную и семейную тайну (ст. 23 Конституции), а также недопустимости сбора, хранения и распространения информации о частной жизни лица без его согласия (ст. 24 Конституции). Эти статьи недопустимо нарушать даже в случае объявления Президентом чрезвычайного положения в стране (ст. 56 Конституции)!

Введение специального режима для прямого управления людьми нечеловеческим «разумом» путем обязательных к исполнению предписаний завершает процесс, начатый грубым попранием п. 1 ст. 19 ГК РФ:

«1. Гражданин приобретает и осуществляет права и обязанности под своим именем, включающим фамилию и собственно имя, а также отчество, если иное не вытекает из закона или национального обычая».

Уже давно идут разговоры от первого замглавы ЦБ Ольги Скоробогатовой, от депутатов и Правительства о необходимости присвоения каждому гражданину сквозного идентификатора, объединяющего все сведения о нем в единой базе. Уже не обсуждается обязательность присвоения каждому пожизненного несменяемого номера СНИЛС и взаимодействие с властями строго по нему по всем «госуслугам». В Госдуме ждут своей очереди на рассмотрение законопроекты, которые консервативная патриотическая общественность и ряд независимых юристов прямо называют антиконституционными: ПФЗ о цифровом профиле гражданина, о едином реестре населения (в рамках которого каждому гражданину как раз и будет присвоен уникальный идентификатор), об электронном паспорте. Уже давно принят и действует скандальный антинародный закон о биометрической идентификации и создании Единой биометрической системы и 48-ФЗ, закрепивший СНИЛС как главный идентификатор гражданина. Теперь же в Москве и, опосредованно через федеральный закон, во всей России, предлагается узаконить механизм прямого управления обществом машинным интеллектом, по своей природе совершенно чуждым человеку и человеческой цивилизации. Такая система управления исключает сохранение привычного человеческого общественного устройства и неизбежно приведет к уничтожению человеческой цивилизации, как таковой.

Все граждане, несогласные с повесткой глобальных трансгуманистов о необходимости создания на территориях государств-членов G20 т.н. «регуляторных песочниц» (свободных от национального законодательства пространств, где «цифровые евангелисты» смогут ставить любые «инновационные» эксперименты над народом не опасаясь попасть под статью), могут направлять депутатам через электронную приемную Государственной Думы обращения примерно следующего содержания:

«Требую отклонения находящегося на рассмотрении в ГД РФ законопроекта 896438-7 «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменения в статью 6 Федерального закона «О персональных данных», а так же защиты персональных данных и неприкосновенности частной и семейной жизни граждан, гарантированных каждому гражданину нормами Конституции!

Защита оборота биометрических и персональных обезличенных данных – это вопрос национальной безопасности и прямая обязанность государства. Президент РФ В.В. Путин, в рамках совещания с рабочей группой по подготовке предложений о внесении поправок в Конституцию России, прошедшей 13 февраля 2020 г., полностью поддержал предложение о необходимости усиления мер по защите ПД граждан РФ. Законопроект № 896438-7 полностью противоречит позиции Президента и делает невозможным обеспечение защиты и сохранности ПД.

Кроме того, данным законопроектом предлагается в экспериментальном правовом режиме передать часть полномочий в управлении г. Москва искусственным интеллектом, без каких-либо обоснований и доказательств безопасности такого процесса. Впервые в истории России предлагается начать эксперимент по внедрению в систему госуправления машинного «разума», совершенно чуждого человеку. Я выступаю категорически против экспериментов по управлению ИИ человеческим обществом, так как это ставит под удар национальную безопасность, суверенитет и само будущее России».

РИА Катюша


Источник: m.vk.com

Комментарии: