Цифровую среду берут под госконтроль

Очередной пакет поправок в законодательство, призванных бороться с интернет-мошенниками, внесен в Госдуму правительством России.

В пояснительной записке к документу указано, что авторство принадлежит ведомству Максута Шадаева - Минцифры. Министерство намерено взять под жесткий контроль сферу информационно-коммуникационных технологий (ИКТ) в стране.

Сейчас эта сфера объявлена зоной риска для граждан, особенно для пожилых и несовершеннолетних, и нешуточных угроз для государства и национальной безопасности. Изменения лишь частично касаются борьбы с мошенничеством и в большой степени - контроля со стороны государства за цифровой реальностью, где все активнее и шире используется искусственный интеллект.

Один из ведущих отечественных специалистов в области цифровых технологий Игорь Ашманов, выступая перед президентом на заседании СПЧ, поднял вопросы бесконтрольного внедрения ИИ в социальную сферу. Он сравнил мощные нейросети с техническим спиртом: «Это как с ацетоном или метанолом, его можно и нужно использовать в промышленности, в обороне, но нельзя нюхать или добавлять в продукты питания. Точно так же ИИ необходим в производстве, но в образовании, воспитании и госуправлении он требует строжайшего регулирования».

Ашманов привел пример того, как «массовое использование генеративных сетей школьниками и студентами ведет к тому, что процесс получения знаний подменяется генерацией ответов. Возникает иллюзия: знать необязательно, главное – сдать».

Накануне Нового года очередной скандал из цифровой сферы прилетел благодаря вмешательству в деятельность управления трудовыми коллективами того самого ИИ. В Сбербанке искусственный интеллект признал 20% тамошних сотрудников неэффективными и не исключил возможность их увольнения.

Игорь Ашманов назвал авторов этого исследования «техноварварами», ведь критерии оценки часто закладывают люди с невысокими интеллектуальными способностями и моральными качествами.

- Мораль их не интересует - их интересует программирование, - считает Ашманов. - Незаконность этой истории очевидна: если начальство даст команду программистам написать программу ИИ для выявления «неэффективных», то это будет просто кошмар: у них нет представления о том, что такое должностные обязанности или трудовое законодательство.

Текст: Павел Максимов

Рисунок: Евгений Кран.

Источник: vk.com

Комментарии: