ИИ меняет реальность, но не всегда оставляет след: Казахстан пересматривает правила цифрового контента

Казахстан приступает к формированию правового механизма, который должен разграничить ответственность за создание, распространение и использование материалов, произведенных с применением искусственного интеллекта. До конца 2026 года предполагается определить более подробную модель распределения обязательств между разработчиками технологических решений и непосредственными создателями цифрового контента. Как сообщила депутат Мажилиса Екатерина Смышляева, действующий подход предусматривает обязательную маркировку полностью синтетических материалов, включая дипфейки, в которых изображенный человек произносит слова или совершает действия, не имевшие места в действительности. При этом фотографии и видеозаписи, полученные обычными средствами съемки, но впоследствии обработанные алгоритмами искусственного интеллекта, пока не подпадают под аналогичное требование. Такое разграничение отражает фундаментальную проблему современного цифрового регулирования, поскольку технологическая граница между обработкой достоверного изображения и созданием искусственной реальности становится все менее определенной. Алгоритмы способны изменять освещение, удалять объекты, корректировать внешность, реконструировать голос и воспроизводить движения человека без необходимости создавать изображение полностью заново. В результате формальное происхождение исходного файла перестает быть достаточным критерием его достоверности. Для Казахстана этот вопрос приобретает особое значение вследствие расширения цифровых государственных услуг, развития электронной коммерции и внедрения автоматизированных информационных систем. Государству необходимо одновременно поддерживать технологическое развитие и предотвращать использование синтетических материалов для манипулирования общественным мнением, мошенничества и нарушения личных прав. Именно противоречие между экономической полезностью искусственного интеллекта и необходимостью сохранять доверие к цифровой информации становится центральным элементом формирующейся регуляторной политики.

Различие между полностью синтетическим изображением и обработанным оригиналом имеет не только юридическое, но и существенное экономическое значение. Современные редакторы фотографий используют машинное обучение для шумоподавления, повышения разрешения, восстановления поврежденных участков и автоматической цветокоррекции. Аналогичные технологии применяются в телевизионном производстве, рекламной индустрии, медицинской визуализации, картографии и промышленном контроле. Если обязательная маркировка распространяется на любую алгоритмическую обработку, значительная часть современной цифровой продукции автоматически приобретает статус материала, созданного с использованием искусственного интеллекта. Это увеличивает административные издержки производителей контента, усложняет работу медиаплатформ и создает дополнительные требования к программному обеспечению. Однако противоположная модель, при которой учитывается исключительно первоначальный способ получения изображения, формирует возможности для обхода регулирования. Достаточно использовать реальную фотографию человека и изменить ее содержательную часть, чтобы получить визуально убедительный материал, формально сохраняющий связь с оригиналом. Особенно сложными становятся случаи, когда алгоритм заменяет отдельные элементы лица, изменяет выражение эмоций или синхронизирует движение губ с искусственно созданной речью. С технической точки зрения подобные операции могут рассматриваться как редактирование существующей записи, хотя их информационный эффект сопоставим с полноценным дипфейком. Следовательно, юридически значимым критерием постепенно становится не сам факт применения искусственного интеллекта, а степень изменения смыслового содержания материала.

Международная практика показывает, что универсального определения границ допустимой обработки цифрового контента пока не сформировалось. Европейский союз закрепил требования прозрачности в регламенте об искусственном интеллекте, известном как AI Act, вступившем в силу в августе 2024 года с поэтапным применением отдельных положений. Статья 50 предусматривает специальные обязательства в отношении определенных синтетических материалов и дипфейков, одновременно учитывая особенности художественного творчества и отдельных видов профессиональной деятельности. Для поставщиков соответствующих систем предусмотрены требования, связанные с машиночитаемым обозначением искусственно созданных или измененных материалов. Китай начал регулировать алгоритмически синтезированный контент раньше многих государств, приняв специальные правила в отношении технологий глубокого синтеза, действующие с января 2023 года. В сентябре 2025 года там вступили в силу дополнительные требования к обозначению материалов, созданных искусственным интеллектом, включая видимые и скрытые идентификаторы. Американская модель остается более фрагментированной, поскольку федеральное законодательство, нормы отдельных штатов и правила технологических платформ регулируют различные аспекты цифровой подлинности. Международный опыт демонстрирует постепенное смещение внимания от простого уведомления пользователя к технической прослеживаемости происхождения информации. Для Казахстана это означает необходимость выбора между относительно простой системой визуальных предупреждений и более сложной инфраструктурой цифровой идентификации контента. Первая модель дешевле при внедрении, тогда как вторая потенциально обеспечивает более надежную проверку происхождения материалов, но требует совместимости программных продуктов и информационных платформ.

Особое значение имеет вопрос распределения ответственности между разработчиком искусственного интеллекта и пользователем, непосредственно создающим цифровой материал. Разработчик контролирует архитектуру модели, возможности генерации, технические ограничения и механизмы автоматического обозначения результатов. Пользователь определяет содержание запроса, выбирает исходные материалы, редактирует полученный результат и принимает решение о его публикации. Между ними нередко присутствуют дополнительные участники, включая поставщиков облачных вычислений, интеграторов программного обеспечения, рекламные агентства и социальные платформы. Если обязанность маркировки полностью возлагается на разработчика, возникает проблема контроля за последующими изменениями файла после его выгрузки из системы. Если ответственность переносится исключительно на создателя контента, эффективность регулирования начинает зависеть от добросовестности пользователя и возможностей государственного надзора. Существует также проблема программного обеспечения с открытым исходным кодом, которое может распространяться без централизованного оператора и использоваться на локальных вычислительных устройствах. Для таких решений традиционная схема ответственности поставщика коммерческого сервиса оказывается недостаточной. Дополнительную сложность создают иностранные технологические компании, предоставляющие услуги казахстанским пользователям без полноценного физического присутствия внутри страны. Поэтому обсуждаемое разграничение ответственности затрагивает не только национальное законодательство, но и возможности Казахстана обеспечивать исполнение требований в трансграничной цифровой среде.

Экономические последствия регулирования особенно заметны на фоне ускоренного внедрения искусственного интеллекта в государственное управление и частный сектор. По данным Международного союза электросвязи, в 2024 году интернетом пользовались приблизительно 5,5 миллиарда человек, или 68 процентов мирового населения. Расширение цифровой аудитории сопровождается увеличением количества изображений, видеозаписей и автоматически формируемых информационных материалов, проверка которых традиционными методами становится все более затратной. Казахстан обладает развитой системой электронных государственных услуг, а значительная часть взаимодействия граждан с финансовыми организациями осуществляется дистанционно. В таких условиях поддельная видеозапись руководителя банка, государственного служащего или представителя коммерческой компании может использоваться для социальной инженерии и получения доступа к денежным средствам. При этом сам по себе визуальный знак, указывающий на использование искусственного интеллекта, не способен гарантировать безопасность информационной среды. Злоумышленники могут удалять обозначения, изменять метаданные и повторно кодировать видеозаписи, уничтожая часть технических признаков происхождения. Развитие криптографических механизмов подтверждения подлинности, включая стандарты семейства C2PA, предлагает альтернативный подход, основанный на фиксации истории создания и редактирования файлов. Однако отсутствие такой записи не доказывает искусственное происхождение материала, поскольку большинство существующих камер и редакторов пока не обеспечивают универсальную совместимость с подобными механизмами. Следовательно, экономическая эффективность маркировки зависит от сочетания правовых обязательств, технологических стандартов и доступности независимой проверки цифровых материалов.

Отдельного рассмотрения заслуживает влияние новых правил на журналистику, политические коммуникации и общественное доверие. Исторически достоверность фотографического изображения основывалась на предположении о непосредственной связи между зафиксированным событием и физическим процессом съемки. Распространение цифровых редакторов постепенно ослабило это предположение, однако генеративный искусственный интеллект качественно изменил масштабы возможного вмешательства. Теперь убедительная имитация публичного выступления не обязательно требует профессиональной съемочной группы, дорогостоящего монтажа или длительной обработки. Для информационного пространства Казахстана, в котором одновременно используются казахский, русский и другие языки, дополнительным фактором становится развитие технологий многоязычного синтеза речи. Один и тот же визуальный материал может сопровождаться несколькими искусственно созданными аудиодорожками, адаптированными под различные аудитории. При этом формальное наличие маркировки не устраняет возможность распространения ложных утверждений через настоящие видеозаписи, вырванные из первоначального контекста. Возникает принципиальное различие между технической подлинностью файла и достоверностью содержащегося в нем сообщения. Настоящая запись может вводить аудиторию в заблуждение посредством монтажа, неверной датировки или ложного описания обстоятельств съемки. Поэтому законодательное регулирование синтетического контента решает лишь часть более широкой проблемы доверия к цифровым источникам информации.

Намерение Казахстана продолжать внедрение готовых решений искусственного интеллекта независимо от колебаний мирового технологического рынка указывает на прагматический характер государственной политики. Разработка собственных фундаментальных моделей требует значительных вычислительных ресурсов, специализированных кадров, качественных массивов данных и устойчивого финансирования. Для сравнительно небольших технологических рынков использование существующих платформ зачастую обеспечивает более быстрое получение экономического результата, чем создание универсальных моделей с первоначального этапа. Однако зависимость от внешних поставщиков одновременно ограничивает возможности государства контролировать встроенные механизмы маркировки, хранение данных и последующие обновления программного обеспечения. Возникает институциональное противоречие между стремлением ускорить цифровизацию и необходимостью обеспечить национальную применимость правовых требований к иностранным технологическим продуктам. Казахстанская модель регулирования фактически формируется на пересечении трех задач: защиты информационной достоверности, сохранения инвестиционной привлекательности цифровой экономики и обеспечения управляемости технологической инфраструктуры. При чрезмерно широком определении искусственного контента возрастают расходы бизнеса и риски избыточного регулирования повседневных цифровых операций. При слишком узком определении значительная часть манипулятивных материалов может оставаться за пределами специальных требований прозрачности. Поэтому ключевой результат предстоящего распределения ответственности будет определяться не количеством обязательных обозначений, а юридической способностью различать техническую обработку и содержательную фальсификацию. Именно это разграничение определит, станет ли маркировка в Казахстане формальной характеристикой цифрового файла или полноценным механизмом установления ответственности за искусственное изменение информационной реальности.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: