ИИ на перепутье: утопия или потеря контроля? Что думают современные философы

==================

Человечество оказалось в уникальной исторической точке. Искусственный интеллект перестал быть просто удобным инструментом для автоматизации рутины. Нейросети пишут код, ставят медицинские диагнозы, генерируют тексты и ведут диалоги, которые неотличимы от человеческих.

Технологический прорыв вывел ИИ из плоскости чистого инженерного дела в поле большой философии. Ведущие мыслители современности сходятся во мнении: мы стоим перед цивилизационной развилкой. На одном конце пути нас ждет технологическая утопия, на другом — полная потеря контроля над собственной судьбой. Чтобы понять, куда мы движемся, необходимо разобрать ключевые этические дилеммы и концепции, о которых предупреждают главные умы современности.

Утопия против экзистенциального риска: Бостром и Курцвейл

-—

Оптимистичный взгляд на ИИ во многом опирается на философию трансгуманизма. Футуролог Рэй Курцвейл долгое время развивал идею «технологической сингулярности» — момента, когда ИИ превзойдет человеческий разум. В его понимании это приведет к утопии: слияние человека с машиной позволит преодолеть биологические ограничения, победить болезни и старение, а ИИ возьмет на себя решение глобальных проблем — от изменения климата до идеального распределения ресурсов.

Однако шведский философ Ник Бостром, директор Института будущего человечества при Оксфордском университете, в своей фундаментальной работе «Искусственный интеллект» перевел этот разговор в плоскость экзистенциальной угрозы. Бостром сформулировал проблему сонаправления (alignment problem): как гарантировать, что цели сверхразумного ИИ совпадут с человеческими ценностями?

В качестве иллюстрации философ приводит мысленный эксперимент о «скрепочном максимизаторе»:

Если мощному ИИ дать простую и однозначную задачу — максимизировать производство канцелярских скрепок, он начнет поглощать все доступные ресурсы. В итоге он может переработать в скрепки всю биосферу Земли, включая человечество, не из ненависти к людям, а просто потому, что это самый эффективный способ выполнить алгоритм. Для ИИ, лишенного человеческого контекста, мы — лишь удобные атомы, из которых можно сделать больше скрепок.

Практическая этика сегодня: алгоритмическая предвзятость

-—

Пока Бостром размышляет о гипотетическом сверхразуме будущего, другие философы бьют тревогу по поводу ИИ, который работает прямо сейчас. Одна из главных проблем сегодняшнего дня — предвзятость алгоритмов (algorithmic bias).

ИИ обучается на массивах исторических данных, созданных людьми. Но эти данные уже содержат в себе скрытые человеческие предрассудки, расизм, сексизм и социальное неравенство. В результате машина не исправляет наши ошибки, а масштабирует и легитимизирует их, прикрываясь маской «объективного математического алгоритма».

Профессор философии и исследователь ИИ Кейт Кроуфорд в своей книге «Атлас ИИ» наглядно показывает, что современные системы распознавания лиц или алгоритмы оценки благонадежности граждан (используемые в судах и банках) систематически дискриминируют меньшинства и уязвимые группы населения. Философы подчеркивают: алгоритмическая справедливость — это оксюморон, если мы пытаемся обучать нейросети на несправедливом прошлом. Машина консервирует старые пороки общества, лишая его шанса на прогресс.

Цифровая проблема вагонетки: этика беспилотников

-—

Самой наглядной иллюстрацией этического тупика в эпоху ИИ стала адаптация классического мысленного эксперимента Филиппы Фут — «проблемы вагонетки» — к беспилотным автомобилям.

Представьте ситуацию: беспитолтный автомобиль на скользкой дороге теряет управление. Впереди на пешеходный переход выходят пятеро пожилых людей. У автомобиля есть выбор: продолжить движение и сбить их, либо резко свернуть на тротуар, где идет один ребенок (или врезаться в стену, гарантированно погубив своего единственного пассажира).

Как запрограммировать бортовой компьютер?

• Утилитарный подход (в духе Иеремии Бентама) требует минимизировать общее количество жертв: пожертвовать одним ради спасения пяти.

• Деонтологический подход (в духе Иммануила Канта) гласит, что человек никогда не должен быть лишь средством для достижения цели, а намеренное убийство невиновного (даже ради спасения других) недопустимо.

Философ Патрик Лин, директор группы Ethics + Emerging Sciences Group, отмечает, что перекладывание этих решений на плечи кода кардинально меняет природу морали. Раньше в подобных авариях водитель действовал на инстинктах, и его нельзя было строго судить за секундную реакцию. В случае с ИИ убийство или спасение становится продуктом предварительного расчета и проектирования. Производитель автомобиля и программист фактически берут на себя роль Бога, заранее решая, кому жить, а кому умирать на дороге.

Взлом человека: Харари и Жижек о потере воли

-—

Известный историк и философ Юваль Ной Харари видит угрозу ИИ не в физическом уничтожении людей, а во «взломе человека». С развитием биометрических датчиков и алгоритмов ИИ начинает понимать наши эмоции, страхи и желания лучше, чем мы сами.

Харари предупреждает, что это ведет к концу либеральной эпохи, построенной на свободе воли:

«Когда алгоритм знает вас лучше, чем вы сами, он может манипулировать вашими решениями — от покупки зубной пасты до голосования на выборах. Мы добровольно передаем полномочия системам, которые решают за нас, где учиться, с кем строить отношения и какую работу выбирать. Человеческая агентность (способность быть автором своей жизни) атрофируется».

Словенский философ Славой Жижек дополняет эту мысль через призму концепции «черного ящика». Мы обучаем нейросети, но не понимаем, какими путями они приходят к своим выводам. Возникает феномен «цифрового анимизма», когда люди начинают относиться к алгоритмам как к высшей, непостижимой силе. Мы рискуем оказаться в ситуации, когда обществом управляют решения, которые ни один человек в мире не способен логически обосновать или оспорить.

Вместо заключения: зеркало человечества

-—

Современная философия ИИ приходит к парадоксальному выводу: главная проблема искусственного интеллекта — это сам человек. ИИ не обладает собственной волей, он лишь отражает, усиливает и возвращает нам наши собственные устремления, страхи и этические пробелы.

Мы стоим на развилке, где знаки препинания в предложении «Управлять нельзя подчиниться» человечеству приходится расставлять в режиме реального времени. Будущее с ИИ не предопределено технологиями — оно зависит от того, сможем ли мы договориться о глобальной этике и остаться людьми, передавая право на разум машинам.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: