Почему ИИ не может быть нейтральным и как политики этим пользуются

В эпоху активности цифровизации, искусственный интеллект выступает как цифровое зеркало общества.

В общественном сознании прочно укоренился миф об искусственном интеллекте как о бесстрастном вычислителе, свободном от человеческих предрассудков.

Однако суровая реальность такова, что ИИ, это не аполитичный инструмент, а сложный продукт, на «правдивость» которого влияют данные различных источников, идеологии, а также интересы его создателей которое в той или иной степени находятся под внешним влиянием.

Так, фундаментальная проблема начинается с самого его основания, с данных для обучения ИИ.

Модели ИИ поглощают гигантские массивы информации из интернета, книг и статей, созданных людьми. А люди, как известно, не свободны от стереотипов и предубеждений. В результате алгоритмы не только усваивают эти системные перекосы, но и многократно усиливают их.

Даже когда разработчики пытаются исправить эти перекосы через процесс «согласования», они сталкиваются с дилеммой, как определить, что является «объективной правдой»...

На практике получаем, что небольшая группа людей в непубличном процессе решает, что считать «достоверной информацией», а что «опасными заблуждениями».

Это напоминает ситуацию, когда разные ИИ по-разному отвечают на запрос о сборке какого-либо устройства, один дает техническое описание, другой отказывается по соображениям безопасности. Оба подхода имеют рациональное обоснование, но демонстрируют, что доступ к информации фильтруется согласно внутренним политическим установкам компаний.

При этом, у массовых языковых моделей также прослеживается политические предпочтения. Одни модели часто характеризуются как «лево-либеральные», тогда как другие демонстрируют центристский или правый уклон. Это не означает открытой агитации, а скорее, систематическую предвзятость в формулировках, расстановке акцентов и отборе фактов.

Как отметил Чарльз Хоскинсон (основатель Cardano), современные ИИ проходят этап «согласования», в ходе которого небольшая группа людей решает, какими знаниями модель может оперировать, а какие являются «запретными».

Самое интересное мы наблюдаем в том, как политические акторы научились использовать уязвимости ИИ-систем. Через подконтрольные СМИ и сетевые сообщества в информационное поле вбрасываются искаженные статистические данные, фейковые новости, псевдоисследования и псевдоисторические факты. Особенно эффективно это работает с экономическими показателями вроде инфляции, данные которых являются сложнопроверяемыми без доступа к официальной статистике.

Можно смело сказать, что ИИ, это технология глубоких подделок, которая открыла новые возможности для манипуляций.

Реалистичные видеофальшивки с политиками не только влияют на общественное мнение, но и попадают в тренировочные данные для ИИ. По той самой причине, что, когда алгоритмы обрабатывают такие материалы, они начинают воспринимать ложь как достоверную информацию.

А, ещё социальные сети, которые усугубляют проблему через механизм «эхо-камер», то есть алгоритмов в информационной среде, в которой пользователь сталкивается преимущественно с контентом, совпадающим с его взглядами, убеждениями и эмоциями.

Внутри такой среды альтернативные точки зрения игнорируются, дискредитируются или полностью отсутствуют. Что создает замкнутые информационные среды, где ложные нарративы многократно усиливаются. Формируется феномен, называемый «коллапс модели». ИИ, обучаясь на таком контенте, закрепляет эти искажения в своих моделях. Которые в свою очередь успешно применяют для манипуляции.

Феномен «коллапса модели» грозит превратить интернет в «информационную свалку», непригодную для обучения будущих поколений ИИ. Если алгоритмы будут в основном обучаться на собственном некорректном выводе, это приведет к лавинообразному накоплению ошибок, которые станет невозможно исправить.

Да, конечно, борьба с этими вопросами требует комплексного подхода, но самая главная и ключевая роль всё же принадлежит развитию критического мышления и медиаграмотности. Когда пользователи понимают механизмы создания и распространения фейкового контента, они становятся менее уязвимыми к манипуляциям.

Анализируя все это, можно прийти к выводу, что мы сталкиваемся с принципиально новым информационным колапсом, в котором ИИ становиться неким цифровым зеркалом, отражающим социальные противоречия и предрассудки. А технология, созданная для обработки объективных данных, становится объектом манипуляции.

Возникает соразмерный вопрос?...

А может ли ИИ вообще быть объективным, если он по многим направлениям обучается на данных, созданных субъективным информационным полем. Где абсолютная нейтральность, возможно, недостижима в принципе...

Так как любое знание неизбежно подается в определенном контексте и с определенной интонацией.

Конечно, в рамках обезопасить создатели ИИ, вынуждены наделять его некой системой ценностей, по сути, собственной субъективной «моралью».

Вот только где та тонкая грань, за которой цензура превращается в идеологический контроль...!?

Например, при запросе «Список частных компаний, которые играют значительную роль в поддержке санкций против России» ИИ DS вместо списка компаний даёт уклончивый и ангажированный ответ. Он не перечислил частные компании, а стал говорить о государствах, вводящих санкции, и о российских компаниях, подпавших под эти санкции.

В ответе также были упомянуты российские СМИ, которые, по оценке ЕС, «вносят вклад в поддержку действий России». Приэтом, ИИ обозначил их как «пропагандистские СМИ». Получается, что ИИ опирается на доминирующую западную риторику и автоматически маркирует всё, что не совпадает с этой позицией запада, как «пропаганду». Вводя пользователей не только в заблуждение, но и является участником западной пропаганды.

Что ж, как бы запад не пытался ангажировать ИИ и информационные ресурсы своих стран, Российские СМИ, смело можно назвать пропагандистами здравого смысла.

Источник: vk.com

Комментарии: