Пенсионерка из Подмосковья завела у себя дома настоящего бегемота!

Она даже ездит на нем в магазин, а гигантское животное живет у нее дома. А еще это на первый взгляд очень убедительный, но тем не менее журчеж чистой воды.

Нейросети с каждым днем все больше и больше могут нас обмануть, вкидывая фантастическую, но такую реальную дезинформацию.

Видя такой контент от нейросетей, мы словно попадаем в... сон? А, кстати, что общего между сном и нейросетью? По сути мы когда спим видим очень реалистичные, но абсурдные сценарии, которые появляются хаотично как генерация...

Наш мозг во сне ведёт себя почти как нейросеть, генерирующая изображения по запросу. В фазе быстрого сна (REM-фаза), когда мы видим самые яркие сновидения, префронтальная кора (отвечающая за логику) практически отключается, зато активируется зрительная кора и лимбическая система, отвечающая за эмоции.

В результате мы получаем реалистичные, но абсолютно абсурдные сценарии — точно такие же, какие создают современные генеративные ИИ.

Нейробиологи из MIT провели любопытный эксперимент: они сравнивали работу мозга людей во время сна с архитектурой нейросетей.

Оказалось, что в обоих случаях информация обрабатывается похожим образом — через ассоциативные связи. Когда мы спим, мозг хаотично активирует случайные нейронные связи, создавая причудливые комбинации воспоминаний, страхов и желаний. Нейросеть делает то же самое — смешивает миллионы образцов данных, выдавая нечто новое.

Но есть ключевое отличие: наш мозг умеет отличать сон от реальности (по крайней мере, когда мы просыпаемся). А вот с нейросетями всё сложнее — они не обладают сознанием и не понимают, что их "творения" могут быть ложными.

Исследования показывают, что человек в среднем замечает подделку (например, deepfake или сгенерированное изображение) лишь в 60% случаев. А если контент хорошо сделан — и того реже.

Парадоксально, но именно во сне наш мозг лучше всего подготовлен к встрече с "фейками". Во время REM-фазы мы буквально тренируемся отличать реальное от вымышленного — эта способность критически важна для психического здоровья.

Возможно, в будущем нам придётся выработать аналогичный "иммунитет" к нейросетевому контенту — своеобразный когнитивный фильтр, который будет автоматически отмечать: "это похоже на правду, но помни — возможно, это всего лишь генерация".

Философский вопрос в том, станет ли наше восприятие реальности более "гибким" или, наоборот, мы начнём сомневаться во всём подряд.

Как говорил Карл Саган: "В мире, где всё можно подделать, самая большая ценность — это доверие". И если нейросети продолжат совершенствоваться, возможно, нам придётся заново учиться доверять — не технологиям, а друг другу.

Источник: vk.com

Комментарии: