«Информационная безопасность систем искусственного интеллекта» |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-13 11:29 11 ноября я участвовала в заседании научного совета Российской Академии Наук (РАН) по теме «Информационная безопасность систем искусственного интеллекта» под руководством Игоря Анатольевича Шеремета, академика. Было много интересных выступающих, все (в том числе и я) говорили о технических рисках использования систем ИИ. Но меня зацепил доклад как раз не технический — доктора юридических наук Виктора Борисовича Наумова. Виктор, наверное, самый известный в стране эксперт в области права, связанного с информационными технологиями. Он вместе со мной участвовал в рабочей группе сенатора Кожина при Совете Федерации, которая разрабатывала свой вариант законопроекта об искусственном интеллекте. Я писала об этом законопроекте раньше. В этот раз Виктор Наумов сделал подробный доклад о состоянии дел с законотворчеством в области ИИ в нашей стране. Например, я с удивлением узнала, что ещё 6 лет в РФ назад была принята «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года». Концепция была утверждена распоряжением Правительства РФ №2129-р от 19.08.2020 и предполагала разработку и принятие до 2024 года целого ряда нормативных актов по регулированию ИИ и робототехники. В результате в том же 2020 году был принят документ о поддержке экспериментальных правовых режимах в сфере цифровых инноваций РФ (ФЗ-258 от 31.07.2020) — и всё. И только в этом году, спустя 6 лет, был принят закон о поддержке развития технологий ИИ (ФЗ-243 от 27.06.2026). То есть изначальная задумка по регулированию отношений в сфере ИИ заменилась на поддержку технологий ИИ. Хотя, помимо нашего законопроекта, был ещё законопроект Минцифры «Об основах государственного регулирования сфер применения технологий ИИ в РФ» — он куда-то делся. Еще был проект ФЗ от депутата Госдумы Морозова «О робототехнике и автономных системах», который был отозван. В результате остался только закон о поддержке ИИ. Видимо, кому-то очень сильному была нужна именно поддержка его ИИ. Виктор Борисович обратил внимание на три особенности принятого ФЗ-243, о которых многие даже не задумывались. Первая — это определение, что такое ИИ. По словам Наумова, нигде в мире, ни в одном законе или других документах не даётся такое определение ИИ, как в нашем ФЗ-243. «Искусственный интеллект — комплекс технологических решений, позволяющих имитировать когнитивные функции человека … и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их». «Большая фундаментальная модель ИИ — программа для электронных вычислительных машин, … предназначенная для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуальной деятельности человека или превосходящем их…». (ст.3 ФЗ-243) То есть закон постулирует, что ИИ как минимум сопоставим с деятельностью человека или превосходит его. Но ровно идея превосходства машины над человеком заложена в основу технотрансгуманизма. «Не приведёт ли такой подход в итоге к нивелированию роли человека и к продвижению трансгуманистических идей?» — задаёт вопрос Виктор Наумов. И я не нахожу никаких аргументов, чтобы ему возразить. Вторая особенность закона — ст.10, которая позволяет для обучения российских фундаментальных моделей использовать интеллектуальную собственность третьих лиц. По мнению профессионального юриста, который много лет занимается защитой интеллектуальных прав в области ИТ, это обрушит не только рынок книгопечатания в России, но и рынок программного обеспечения. Вдруг производителю модели захочется использовать вот тот вон софт для целей обучения. На эту тему, кстати, было много обращений — Российский книжный союз и другие объединения правообладателей ещё до принятия закона обращались в правительство, Совет Федерации, администрацию президента и Госдуму и указывали, что ограничение исключительных прав вводится в обход Конституции и Гражданского кодекса. Но все обращения остались без ответа. Может быть, со сменой вице-премьера, курирующего цифровое развитие, этот пункт закона всё-таки будет переосмыслен. Третья особенность касается безопасности и доверенности. Понятие доверенного ИИ в законе отсутствует, это мы знаем (в этом смысле, кстати, странно требование по обязательному использованию ИИ всеми отраслями). Но г-н Наумов обратил внимание, что и требования по качественной идентификации результатов — факультативны. В переводе на человеческий язык это означает, что качество результата не очень важно. Есть результат или нет, главное — внедрять. Кстати, в законопроекте, который мы вместе разрабатывали в рабочей группе при Совете Федерации было требование к доверенным системам, а также прямой запрет на использование систем ИИ, могущих нанести ущерб критическим объектам. Из этих трёх особенностей г-н Наумов делает интересный вывод. В коммуникации «технологии-человек» с точки зрения закона №243 человек является слабой стороной. А в юридическом праве есть понятие «слабой стороны», которую закон, как правило, защищает. Например, миноритарии в корпоративном праве или неработающая женщина в бракоразводном процессе. Аналогично существуют запреты на навязывание услуг или сервисов. Поэтому, говорит г-н Наумов, ключевым фактором должно стать правило, что по умолчанию человек не выражает свое согласие на цифровое взаимодействие. Нужно создавать зоны, свободные от ИИ с введением обязательной идентификации и маркировки всего, к чему применялись данные технологии. «Право на отказ от технологий должно стать универсальным правом человека и гражданина … и служить, как общей цели обеспечения антропоцентричности в цифровом мире, так и сохранению формировавшихся веками человеческих ценностей», — пишет Наумов. Я бы к этому добавила, что приоритет традиционных ценностей у нас заявлен в Указе Президента №809 от 9.11.2022, но активное навязывание технологий прямо противоречит этому Указу и традиционным ценностям вообще. К сожалению, вышеупомянутый закон тоже сделан без какого-либо учёта этих ценностей. Пару недель назад мне довелось увидеть некий прототип Национального плана по внедрению Искусственного интеллекта до 2030 года. Честно говоря, у меня зашевелились волосы при прочтении показателей, которые должны быть достигнуты к 2030 году: — Доля образовательных организаций высшего образования, использующих цифровые инструменты с применением ИИ — 75%; — Доля преподавателей ВУЗов, использующих ИИ-помощника — 80%; — Доля обращений граждан в государственные органы, проекты ответов на которые сформированы с помощью ИИ — 50%; — Доля вакансий, закрытых с использованием ИИ – 100%. — Доля ЭМК, для которых ИИ-решением был сформирован цифровой профиль пациента – 95% (ЭМК – электронно-медицинская карта); — Доля обучающихся 9 и 11 классов, использующих ИИ-сервис, позволяющий планировать траекторию личностного роста – 60%; — Доля преподавателей, использующих ИИ для выполнения рутинных задач при проверке студенческих диагностических работ – 60%. Очень надеюсь, что новое руководство информационными технологиями нашей страны данный план не примет, так как подобные требования прямо работают на трансгуманистические идеи, о которых предупреждает Виктор Наумов. И которые нивелируют роль человека, низводя его до уровня тупого неинтеллектуального и безвольного помощника Великого Мудрого ИИ. А зачем нам мир, где не «Человек — это звучит гордо», а порождённый им искусственный интеллект? Телеграм: t.me/ainewsline Источник: vk.com Комментарии: |
|