Председателю Правительства Российской Федерации

МЕНЮ


Главная страница

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



2026-11-09 15:08

киберугрозы

М. В. Мишустину

Обращение №01/11-26

ТЕМА: О рисках национальной безопасности и утечке данных пользователей в связи с уязвимостями ИИ систем (включая «серые зоны» интеграции и среды исполнения)

Уважаемый Михаил Владимирович!

Направляю Вам для ознакомления и срочного принятия мер собранные мной материалы по оценке рисков эксплуатации ИИ систем, таких как «ИИ?ассистент „Алиса“ на базе семейства моделей Alice AI» в цифровой инфраструктуре страны, сопряжённых с угрозой национальной безопасности Российской Федерации и массовой утечкой персональных данных граждан в свободный доступ, а также рисков несанкционированного доступа (кибератак) информационных систем с внедрением в используемые россиянами ИИ-системы недостоверной, а зачастую враждебной идеологической информации, которая может стать источником повышенной опасности в первую очередь для подрастающего поколения россиян активно использующих ИИ в своей повседневной жизни.

В настоящее время ИИ?сервисы всё шире интегрируются в государственные и социально значимые информационные системы и обрабатывают чувствительные данные: персональные сведения граждан, служебную информацию, данные объектов критической информационной инфраструктуры. При этом в архитектуре подобных систем присутствуют участки, в профессиональной терминологии информационной безопасности именуемые «серыми зонами» — сценариями, в которых механизмы контроля ослаблены либо отсутствуют. Такие зоны формируют наиболее вероятные векторы несанкционированного проникновения и компрометации данных.

Ключевые угрозы национальной безопасности и утечки данных

1. Утечка персональных данных через «серые зоны» асинхронных процессов. Асинхронные и фоновые вызовы функций зачастую выполняются вне основного контура безопасности и не проходят через механизмы семантического контроля (Guardrails). В таких сценариях возможна утечка персональных и иных чувствительных данных без фиксации в основных логах, что делает подобные инциденты неконтролируемыми средствами стандартного мониторинга.

2. Обход защитных механизмов через fallback логику и резервные маршруты. Аварийные и резервные пути обработки данных нередко реализуются в упрощённом виде и не предусматривают полноценной валидации входных данных. Это формирует «белые пятна» в защите: злоумышленник может целенаправленно спровоцировать сбой основного канала и перенаправить поток данных на менее защищённый маршрут, получив доступ к персональным данным граждан или служебной информации.

3. Эскалация привилегий через интеграции с «доверенными» внутренними сервисами. Если внутренние компоненты системы считаются «безопасными по умолчанию», их уязвимости могут использоваться для выхода из изолированной среды (песочницы) и получения доступа к смежным сегментам инфраструктуры. В случае компрометации это угрожает не только утечкой данных, но и нарушением функционирования критически важных систем.

4. Внедрение вредоносной логики через обработку нетекстовых форматов. При приёме архивов, бинарных файлов, структурированных данных (JSON, XML) стандартные механизмы семантического аудита неэффективны. В таких форматах возможно сокрытие инструкций, приводящих к утечке данных либо к выполнению несанкционированных действий.

5. Массовое извлечение персональных данных через цепочки косвенных инъекций (Indirect Prompt Injection). При интеграции ИИ систем с внешними API и базами знаний существует риск внедрения вредоносных инструкций через легитимные каналы передачи данных. Результатом может стать автоматизированное извлечение персональных данных граждан и иной конфиденциальной информации.

С учётом масштабов использования ИИ сервисов и объёмов обрабатываемых данных указанные уязвимости несут не только коммерческие и репутационные риски, но и прямую угрозу национальной безопасности: они могут быть использованы для сбора сведений о гражданах и инфраструктурных объектах, а также для дестабилизации работы государственных информационных систем.

Предлагаемые меры

Учитывая изложенное, прошу рассмотреть возможность:

1. Организовать межведомственную оценку рисков эксплуатации ИИ систем в государственных информационных системах с фокусом на выявлении и закрытии «серых зон» (асинхронные процессы, fallback логика, резервные маршруты, интеграции с внутренними сервисами).

2. Установить обязательные требования к телеметрии и логированию всех типов вызовов функций, включая асинхронные и фоновые, с фиксацией полного контекста операций и сведений о доступе к персональным данным.

3. Ввести обязательную валидацию и нормализацию всех входных данных, в том числе поступающих через резервные и аварийные маршруты, а также запрет на обработку нетекстовых форматов без предварительного анализа на наличие скрытых инструкций.

4. Предусмотреть эшелонированную защиту среды исполнения (песочниц) с применением ядерных модулей безопасности (seccomp/AppArmor), блокировкой сетевых сокетов и минимизацией системных вызовов.

5. Включить в требования к аттестации и сертификации ИИ решений тесты на устойчивость к семантическим атакам, в том числе через цепочки вызовов функций и внешние API.

6. Рассмотреть возможность создания отраслевого центра компетенций по безопасности ИИ для координации исследований, тестирования и обмена информацией об уязвимостях.

Приложение:

1. Код для ai_security_report.docx — отчёт об анализе уязвимостей и архитектурных рисков в системах ИИ, в котором систематизированы выявленные «серые зоны» и «белые пятна», приведены сценарии атак, а также рекомендации по закрытию уязвимостей с учётом требований к защите персональных данных и обеспечению безопасности критической инфраструктуры.

Учитывая все вышеизложенное и руководствуясь Федеральным законом "Об основах общественного контроля в Российской Федерации" от 21.07.2014 N 212-ФЗ,

Прошу Вас:

1. Поручить профильным ведомствам рассмотреть представленные мной материалы и организовать работу по минимизации указанных рисков. О результатах рассмотрения прошу сообщить мне в установленном порядке.

09 ноября 2026 г.

С уважением,

Председатель комитета по делам ветеранов в Республике Татарстан,

М.Ю. Надеждин


Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: