Опасность подсознательного доверия гаджетам

Когнитивное искажение, которое заставляет нас верить в надёжность автоматизации, восходит к куда более старому и хорошо известному психологическому феномену — «доверие эксперту».

Поскольку наш мозг следует принципу экономии, о чём я уже много раз рассказывал, мы склонны доверять выводам и решениям, которые озвучивает некий «эксперт».

Грубо говоря, достаточно нам сказать, что кто-то является экспертом в каком-то вопросе, как тут же мы, подсознательно, начинаем ориентироваться на его мнение, только бы лишний раз самим интеллектуально не напрягаться.

С «персонализацией» на основе искусственного интеллекта, с которой мы сейчас всё чаще сталкиваемся, ситуация обстоит ровно таким же образом.

Интеллектуальная система (и не важно, что это — Яндекс-навигатор, интернет-магазин или онлайн-кинотеатр) предлагает нам решение — по какому маршруту ехать, что покупать или смотреть, а мы, подсознательно, уже этому решению доверяем. Но всегда ли это разумно?

Взять, к примеру, Netflix. Эта компания реализовала один из лучших алгоритмов персонализации контента под конкретного клиента. Всё, что мы видим на платформе, — это результат работы соответствующих алгоритмов. Сгенерированы даже превью-картинки к фильмам и сериалам.

Итак, с помощью машинного обучения и на основе истории просмотров пользователей компания Netflix создала около двух тысяч «профилей по вкусу» для каждого конкретного пользователя.

И теперь, когда вы заходите на платформу, вы попадаете в соответствующий контентный коридор. Он, как я уже сказал, очень неплох, и пользователи довольны. Но это он определяет, что мы будем смотреть.

Ежегодно на Netflix загружается такое количество контента, на просмотр которого вам потребовалось бы четыре года. Мы доверяем предложению компании, что нам смотреть, а что нет, потому что, в противном случае, нам трудно разобраться в этом море информации.

Но таким образом формируется и универсализируется наш вкус... Насколько это оправдано — решать вам. Если есть сомнения, то, может быть, имеет смысл пытаться действовать путём осознанного выбора, даже когда «и так понятно», на какую кнопку нажать…

Комментарии: