Пространство для обмана в соцсетях и проблема распознавания AI-фейков

В октябре 2025 года The Washington Post провела исследование, проверив работу систем маркировки контента, созданного искусственным интеллектом (ИИ). Журналисты загрузили фейковое видео с «защищённой» отметкой C2PA на восемь популярных платформ. Только одна из них отобразила предупреждение о том, что ролик был сгенерирован ИИ. Крупные соцсети, такие как Facebook*, Instagram* и TikTok, не показали никаких уведомлений, несмотря на публичные обещания внедрить технологии распознавания AI-контента.

Стандарт C2PA, разработанный при поддержке Adobe, Microsoft, Google и OpenAI, призван обеспечить прозрачность происхождения медиафайлов. Однако на практике метки либо игнорируются платформами, либо удаляются при загрузке файлов, что сводит на нет эффективность системы.

Результаты эксперимента указывают на ненадёжность современных механизмов защиты от дипфейков, особенно на фоне быстрого роста их количества. Современные инструменты, например Sora от OpenAI, позволяют создавать очень правдоподобные видео за считанные минуты, что способствует распространению дезинформации.

Ситуацию осложняет конфликт интересов: социальные сети заинтересованы в максимальной вовлечённости пользователей, а вирусные AI-фейки привлекают трафик и, соответственно, приносят прибыль платформам.

По мнению Андрея Быстрицкого, сопредседателя комиссии по защите традиционных российских духовно-нравственных ценностей, культуры и исторической памяти при Минцифры РФ, текущая ситуация требует серьёзных мер по усилению контроля и регулирования контента в цифровом пространстве.

*Компания Meta, владеющая Facebook и Instagram, признана экстремистской и запрещена на территории РФ.

Источник: vk.com

Комментарии: