Когда-то сигареты рекламировали в кино, врачи снимались в табачной рекламе, а производители табака на слушаниях уверенно объясняли, что зависимости нет

Когда-то сигареты рекламировали в кино, врачи снимались в табачной рекламе, а производители табака на слушаниях уверенно объясняли, что зависимости нет. А потом общество повзрослело, и стало неприлично делать вид, что это была «свобода выбора потребителя».

С цифровой средой уже не в Диком Западе, но еще и не в зрелой цивилизации — где-то посередине. Мы уже понимаем, что платформы, алгоритмы, ИИ, трекинг и интерфейсы влияют на внимание, выбор, эмоции, потребление и картину мира, но все еще притворяемся, что баннеры, чекбоксы, дисклеймеры и ссылки в подвале решают проблему.

Через 30 лет мы будем смотреть на сегодняшние согласия и уведомления так же, как на рекламу сигарет в старом кино или алкогольную рекламу 90-х — с вопросом: как это вообще считалось нормальным?

Если выбор свободный, почему «принять все» — одна кнопка, а «не отслеживайте меня» — квест? Почему Samsung прислал мне десять писем с просьбой подтвердить подписку — по одному в неделю? Становится ли условная бабушка защищеннее от того, что внизу страницы появилась ссылка «о рекомендательных технологиях»? Понимает ли она, как эта фраза связана с ее лентой, рекламой лекарств, политическими роликами, мошенническими объявлениями или тревожным контентом, который ей снова и снова подсовывает система?

Теперь к этому добавились ИИ-ритуалы: ответ сгенерирован ИИ, может содержать ошибки, решение принято с использованием автоматизированной системы. В каждом из этих случаев ответственность за ошибку, дискриминацию, отказ, неверный диагноз, плохую рекомендацию или сломанную судьбу размывается и перекладывается — зато появляется защита корпорации от пользователя и регулятора. Хотя ритуал и здесь не объясняет, как именно технология работает, и главное — как не стать принесенным в жертву.

Я уже разбирал это на примере пользовательского соглашения GigaChat. Там новая ИИ-эпоха видна без грима: платформа почти ничего не гарантирует, ответственность ограничивает, права использования получает широкие, а пользователь отвечает за промпты, персональные данные и возможные нарушения.

И это ведь не только про интернет.

В больнице пациент подписывает информированное согласие. В теории — он понял риски, альтернативы и последствия, но на практике — перед ним лист бумаги, без которого система не едет дальше. В банке клиент подписывает десятки страниц о комиссиях, страховках и рисках. Везде одна и та же магия: человек поставил подпись или галочку — значит, система получила защиту от человека и его претензий, будущего возмущения и права сказать «я не знал, что вы со мной делаете». Знал, вот же есть бумажка!

Чем все это отличается от древних ритуалов плодородия у Нила? Меньше, чем хотелось бы.

Тогда люди не контролировали разлив реки и приносили жертвы, чтобы получить урожай. Сегодня компании не контролируют — или не хотят полностью признавать — последствия алгоритмов, ИИ, трекинга, утечек и манипулятивных интерфейсов. Поэтому приносят в жертву пользователя: его внимание, данные, подпись и согласие.

Ритуал не обязан решать проблему, его задача — сделать проблему переносимой для системы. Если Нил не разлился, ритуал объяснит вину людей — плохо молились. Если разлился — ритуал подтвердит власть жрецов и сакральность фараона.

На ЦИПРе много говорят о будущем: ИИ, данных, платформах, цифровом государстве и доверии. Но реальное будущее видно в сегодняшних мелких интерфейсах, где власть системы встречается с человеком. И если эта встреча выглядит как баннер, лабиринт настроек, десятое письмо о подписке, страница с юридическим текстом или дисклеймер «ИИ может ошибаться» — цифровая зрелость еще не наступила.

Через пару десятилетий многие сегодняшние практики будут выглядеть дико. Не потому что люди будущего станут умнее, а потому что им будет очевидно: нельзя называть свободным выбором ситуацию, где человека доводят до нужной галочки.

Альтернатива хуже: пользователь окончательно переходит из категории субъекта в категорию объекта и сырья. Его внимание добывают, данные перерабатывают, согласие оформляют, ответственность возвращают ему же.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: