Маркировка ИИ-контента

МЕНЮ


Главная страница
Поиск
Регистрация на сайте
Помощь проекту
Архив новостей

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


Генеративный ИИ создает все больше текстов, изображений и видео. Маркировка — ключевой инструмент защиты от дипфейков и введения пользователей в заблуждение.

Как сейчас маркируются различные виды генеративного контента?

Маркировка изображений реализуется через видимые водяные знаки и невидимые технологии встраивания метаданных, такие как Content Credentials и SynthID, которые добавляют информацию о происхождении и редактировании изображения.

Маркировка аудио и видео сочетает голосовые метки и внедрение специальных сигналов нейросетью в аудиодорожку или видеоролик, как в технологиях AudioSeal и VideoSeal.

Маркировка текстов включает прямые предупреждения чат-ботов о генерации AI и скрытые технические методы, такие как незначительное изменение токенов для машинной идентификации. Эти подходы позволяют пользователям и системам распознавать сгенерированный контент, хотя существуют ограничения — например, редактирование может "стереть" невидимые метки.

Международное регулирование маркировки ИИ-контента.

В 2024 году Евросоюз принял Регламент об ИИ, обязывающий маркировать генеративный контент, Китай готовит похожий закон, а в России начали разработку нормативных актов весной прошлого года. Технологические компании параллельно развивают инструменты этичного использования нейросетей.

На сегодняшний день российский ИИ-рынок опирается на «Кодекс этики в сфере ИИ» (https://ai.gov.ru/regulation/etika-iskusstvennogo-intellekta), который задает единые стандарты для всех участников — от государственных структур до молодых технологических стартапов. «Наносемантика» присоединилась к этому документу в 2021 году.


Источник: nanosemantics.ai

Комментарии: