НАУКА СЕГОДНЯ: ПОЧЕМУ МАРКИРОВКА «СДЕЛАНО ИИ» НЕ СПАСЁТ НАС ОТ ДИПФЕЙКОВ?

Человеческое мышление удивительно и одновременно крайне несовершенно.

Мы привыкли думать, что если поставить ярлык «фейк», на, к примеру, сгенерированное видео с речью политика, то мозг автоматически перестанет верить в реальность происходящего. Но всё немного сложнее.

Исследование 2026, опубликованное в журнале Nature (https://www.nature.com/articles/s44271-0…), переворачивает представление о том, как мы воспринимаем дипфейки. И выводы там, скажем так, заставляют задуматься о будущем информационной безопасности.

Почему стратегия маркировки – это лишь иллюзия?

Как демонстрирует исследование, визуальный и эмоциональный след от видео остаётся, даже если вы знаете, что это подделка. Мозг запоминает не ярлык, а картинку, именно образ, что «я видел, как этот человек совершает что-то плохое».

И самое забавное: участникам эксперимента честно говорили «это дипфейк», но они всё равно считали «персонажа» более виноватым, чем те, кто ролика вообще не видел! Иначе говоря, маркировка сработала «для галочки» – на рациональном уровне, оставаясь незамеченной на уровне психики.

Исследователи называют это эффектом продолжающегося влияния дезинформации (continued influence effect) – это когда ложь продолжает жить в голове, даже если вы знаете, что это ложь. Мозг работает так, что визуальный и эмоциональный след от видео остаётся независимо от того, стоит на нём маркер «фейк» или нет.

И теперь главный вопрос: зачем тогда вообще эта маркировка? Юристы и регуляторы успокоятся, но веры в увиденное это не изменит.

Что это значит для нас?

Дипфейки – это не просто технологическая проблема. Это проблема когнитивная. Мы можем ставить маркеры, писать законы, создавать алгоритмы распознавания, но пока мы не поймём, как работает мозг, мы не решим проблему.

Перцептивная практика маркировка «сделано при помощи ИИ» хороша с точки зрения этики, но на практике это не сильно влияет на влияние.

Вывод:

Пометить ИИ-контент можно, но реальных когнитивных искажений это не затронет. Ложь дипфейка превращается в фоновую подозрительность, которая отравляет и репутацию, и общественное доверие. И это – главный риск.

Пока мы не научимся работать с психикой, а не с ярлыками, дипфейки будут побеждать. Исследование Nature – ещё одно напоминание о том, что наука о мышлении нужна не меньше, чем технологии.

Автор поста: Полина Горб

Наука для каждого

Студенческий научный сектор

Телеграм: t.me/ainewsline

Источник: www.nature.com

Комментарии: