Председателю Правительства Российской Федерации |
||
|
МЕНЮ Главная страница ТЕМЫ Новости ИИ Голосовой помощник Разработка ИИГородские сумасшедшие ИИ в медицине ИИ проекты Искусственные нейросети Искусственный интеллект Слежка за людьми Угроза ИИ Атаки на ИИ Внедрение ИИИИ теория Компьютерные науки Машинное обуч. (Ошибки) Машинное обучение Машинный перевод Нейронные сети начинающим Психология ИИ Реализация ИИ Реализация нейросетей Создание беспилотных авто Трезво про ИИ Философия ИИ Big data Работа разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика
Генетические алгоритмы Капсульные нейросети Основы нейронных сетей Промпты. Генеративные запросы Распознавание лиц Распознавание образов Распознавание речи Творчество ИИ Техническое зрение Чат-боты Авторизация |
2026-11-09 15:08 М. В. Мишустину Обращение №01/11-26 ТЕМА: О рисках национальной безопасности и утечке данных пользователей в связи с уязвимостями ИИ систем (включая «серые зоны» интеграции и среды исполнения) Уважаемый Михаил Владимирович! Направляю Вам для ознакомления и срочного принятия мер собранные мной материалы по оценке рисков эксплуатации ИИ систем, таких как «ИИ?ассистент „Алиса“ на базе семейства моделей Alice AI» в цифровой инфраструктуре страны, сопряжённых с угрозой национальной безопасности Российской Федерации и массовой утечкой персональных данных граждан в свободный доступ, а также рисков несанкционированного доступа (кибератак) информационных систем с внедрением в используемые россиянами ИИ-системы недостоверной, а зачастую враждебной идеологической информации, которая может стать источником повышенной опасности в первую очередь для подрастающего поколения россиян активно использующих ИИ в своей повседневной жизни. В настоящее время ИИ?сервисы всё шире интегрируются в государственные и социально значимые информационные системы и обрабатывают чувствительные данные: персональные сведения граждан, служебную информацию, данные объектов критической информационной инфраструктуры. При этом в архитектуре подобных систем присутствуют участки, в профессиональной терминологии информационной безопасности именуемые «серыми зонами» — сценариями, в которых механизмы контроля ослаблены либо отсутствуют. Такие зоны формируют наиболее вероятные векторы несанкционированного проникновения и компрометации данных. Ключевые угрозы национальной безопасности и утечки данных 1. Утечка персональных данных через «серые зоны» асинхронных процессов. Асинхронные и фоновые вызовы функций зачастую выполняются вне основного контура безопасности и не проходят через механизмы семантического контроля (Guardrails). В таких сценариях возможна утечка персональных и иных чувствительных данных без фиксации в основных логах, что делает подобные инциденты неконтролируемыми средствами стандартного мониторинга. 2. Обход защитных механизмов через fallback логику и резервные маршруты. Аварийные и резервные пути обработки данных нередко реализуются в упрощённом виде и не предусматривают полноценной валидации входных данных. Это формирует «белые пятна» в защите: злоумышленник может целенаправленно спровоцировать сбой основного канала и перенаправить поток данных на менее защищённый маршрут, получив доступ к персональным данным граждан или служебной информации. 3. Эскалация привилегий через интеграции с «доверенными» внутренними сервисами. Если внутренние компоненты системы считаются «безопасными по умолчанию», их уязвимости могут использоваться для выхода из изолированной среды (песочницы) и получения доступа к смежным сегментам инфраструктуры. В случае компрометации это угрожает не только утечкой данных, но и нарушением функционирования критически важных систем. 4. Внедрение вредоносной логики через обработку нетекстовых форматов. При приёме архивов, бинарных файлов, структурированных данных (JSON, XML) стандартные механизмы семантического аудита неэффективны. В таких форматах возможно сокрытие инструкций, приводящих к утечке данных либо к выполнению несанкционированных действий. 5. Массовое извлечение персональных данных через цепочки косвенных инъекций (Indirect Prompt Injection). При интеграции ИИ систем с внешними API и базами знаний существует риск внедрения вредоносных инструкций через легитимные каналы передачи данных. Результатом может стать автоматизированное извлечение персональных данных граждан и иной конфиденциальной информации. С учётом масштабов использования ИИ сервисов и объёмов обрабатываемых данных указанные уязвимости несут не только коммерческие и репутационные риски, но и прямую угрозу национальной безопасности: они могут быть использованы для сбора сведений о гражданах и инфраструктурных объектах, а также для дестабилизации работы государственных информационных систем. Предлагаемые меры Учитывая изложенное, прошу рассмотреть возможность: 1. Организовать межведомственную оценку рисков эксплуатации ИИ систем в государственных информационных системах с фокусом на выявлении и закрытии «серых зон» (асинхронные процессы, fallback логика, резервные маршруты, интеграции с внутренними сервисами). 2. Установить обязательные требования к телеметрии и логированию всех типов вызовов функций, включая асинхронные и фоновые, с фиксацией полного контекста операций и сведений о доступе к персональным данным. 3. Ввести обязательную валидацию и нормализацию всех входных данных, в том числе поступающих через резервные и аварийные маршруты, а также запрет на обработку нетекстовых форматов без предварительного анализа на наличие скрытых инструкций. 4. Предусмотреть эшелонированную защиту среды исполнения (песочниц) с применением ядерных модулей безопасности (seccomp/AppArmor), блокировкой сетевых сокетов и минимизацией системных вызовов. 5. Включить в требования к аттестации и сертификации ИИ решений тесты на устойчивость к семантическим атакам, в том числе через цепочки вызовов функций и внешние API. 6. Рассмотреть возможность создания отраслевого центра компетенций по безопасности ИИ для координации исследований, тестирования и обмена информацией об уязвимостях. Приложение: 1. Код для ai_security_report.docx — отчёт об анализе уязвимостей и архитектурных рисков в системах ИИ, в котором систематизированы выявленные «серые зоны» и «белые пятна», приведены сценарии атак, а также рекомендации по закрытию уязвимостей с учётом требований к защите персональных данных и обеспечению безопасности критической инфраструктуры. Учитывая все вышеизложенное и руководствуясь Федеральным законом "Об основах общественного контроля в Российской Федерации" от 21.07.2014 N 212-ФЗ, Прошу Вас: 1. Поручить профильным ведомствам рассмотреть представленные мной материалы и организовать работу по минимизации указанных рисков. О результатах рассмотрения прошу сообщить мне в установленном порядке. 09 ноября 2026 г. С уважением, Председатель комитета по делам ветеранов в Республике Татарстан, М.Ю. Надеждин Телеграм: t.me/ainewsline Источник: vk.com Комментарии: |
|