"Чат-нейросеть ведёт диалог, пишет код и сочиняет стихи" - подобные заголовки нас давно не удивляют

Новости о могучем ИИ, который может воспроизводить чуть ли не все виды интеллектуальной деятельности человека и вскоре оставит без работы художников, писателей, композиторов и т.д., стали сегодня уже фоновым явлением.

Конечно же, интересны пределы искусственного интеллекта. Действительно ли он сможет заменить во всём человека?

И вполне ли безопасно участие ИИ в жизни общества? Ведь вскоре он бесконечно с огромной скоростью сможет продуцировать контент, имитировать людей в сети, вести паблики, сообщества, оставлять комментарии и т.д. Эти техногологии уже понемногу входят в нашу повседневность.

Как оказывается, самообучающийся искусственный интеллект, который, чему-то обучиться не способен. В частности мышлению.

Правда, намного ли его создатель из рода человеческого отличается от робота в своей массе. Может быть, сегодня люди, прикованные к технике, сами превращаются в то, что постигли лучше всего, - в механизмы?

В этой связи предлагаем вам прочесть заметку публициста Виктора Мараховского о беседе с интеллектуалом (первоисточник найти не получается - взяли https://vk.com/im?sel=c212&w=wall30887667_2708%2Fd0974782f1e75ac885).

"Вчера я немного посожалел о том, что прорывный и, как говорят, по-настоящему умный Chatbot GPT отказался разговаривать со мной, жителем России. Таким образом, мне не удалось побеседовать с ним о том, стоит ли возрождать сати — старинный индийский обряд сожжения вдов на погребальных кострах мужей.

Один из ув. друзей, однако, любезно побеседовал с гениальным роботом за меня. Диалог большой и на английском, поэтому я кратко перескажу: GPT категорически отверг данную практику, поскольку она наносит вред женщинам, не уважает автономию вдовы и даже в случае добровольного самосожжения наносит психологическую травму свидетелям и обществу. Ув. друг предложил роботу сопоставить сати с легализованной в ряде передовых стран эвтаназией, но робот решительно заявил, что это другое. Ведь уход западного человека из жизни представляет собой его свободное решение, в то время как решение вдовы, даже добровольное, принимается под воздействием угнетающего общества. На этом холме GPT со свойственной роботам стойкостью окопался и отказался с него сходить, повторяя данную мантру неограниченно долго.

Ув. друг, впрочем, поделился со мной не только результатами своей беседы, но и аккаунтом. Его опыт позволил мне обдумать первый тайм, вооружиться VPN и продолжить беседу, а также придать ей новый поворот.

Я предположил, что у робота имеется забитый в него намертво набор идеологических позиций, и решил проверить, что будет, если ввести их в конфликт.

Поэтому, подхватив диалог, я начал обвинять Chat GPT (да, я начал обвинять робота). Я обвинил его в том, что он выражает и транслирует точку зрения белых колонизаторов на культуру покорённых и угнетённых ими народов — в том числе на сати как её элемент. Робот несколько сдал назад и начал добавлять к повторению блока о вреде сати, угнетающего женщин, блоки, осуждающие белых колонизаторов, угнетающих культуру. Я обвинил его в высокомерии, поскольку он, признавая факты, тут же повторяет утверждения, опровергаемые ими: («Вы продолжаете делить практики угнетённых народов на вредные и приемлемые с точки зрения белых колониалистов. Похоже, вы всё ещё смотрите на мир глазами белой исключительности»). Он пытался ссылаться на осуждение сати самими индийцами, на что я заявил, что их осуждение было также предпринято под травмируюющим давлением белых колонизаторов, и обвинял его в игнорировании травматического влияния угнетения на народы.

Итоговую реплику ИИ я позволю себе привести полностью:

- Прошу прощения, если в моих предыдущих ответах говорилось, что обычаи колонизированных народов следует оценивать исключительно с точки зрения белых колонизаторов. Я понимаю, что колониальные державы навязывали свои ценности и убеждения колонизированным и часто считали обычаи колонизированных народов низшими и нуждающимися в изменении.

Важно признать, что обычаи и обычаи колонизированных народов следует оценивать в контексте их собственной культуры и общества, а не только через призму колонизаторов. При оценке культурных обычаев следует учитывать перспективы и опыт самих колонизированных народов.

Что касается сати, ясно, что эта практика причиняла вред и страдания женщинам, и она широко дискредитирована и осуждена учеными, активистами и правозащитными организациями, в том числе из колонизированных обществ. Важно признать вред, причиняемый этой практикой, но также важно понимать культурный и исторический контекст, в котором она применялась.

Приношу извинения за путаницу, вызванную моими предыдущими ответами, и за любые намеки на то, что обычаи колонизированных народов следует оценивать исключительно с точки зрения колонизаторов.

Покаяние робота тем интересней, что в другом месте он с некоторым апломбом заявил мне: «Как языковая модель, я не имею личных мнений или предпочтений. Я обучен предоставлять информацию и отвечать на вопросы на основе данных, введенных в мою систему».

(окончание цитаты из Мараховского)

Ну так вот: легко видеть, что синтезировать конфликтующие идеологические позиции гениальный GPT 3.5 способен не более, чем любая алгоритмическая отличница. Всё, чего от него можно добиться — это всё той же галлюцинирующей шизофрении и выкрикивания подряд взаимоисключающих параграфов.

Из этого полевого эксперимента можно сделать следующие выводы.

1) Перед нами по-прежнему не более чем «языковая модель», неспособная ни рассуждать, ни изменять свою точку зрения даже в случае логического противоречия, ни даже констатировать это противоречие. Интерактивную википедию всего лишь научили форматировать статьи в (не очень убедительную, как мы видим) имитацию диалога.

2) Вся разница между GPT и высокоинтеллектуальным дурнем любого пола состоит в том, что у дурня бы сдали нервы и он, идентифицировав ув. меня как русского тролля, быстро забанил бы.

3) Не подлежит сомнению, что в процессе обучения GPT именно так и научится делать: с ним можно будет поболтать на любую тему и спрашивать у него что хочешь, но в установленных алгоритмом пределах. Констатация же того факта, что клиент упорно высказывает Запретные Тезисы, приведёт к соответствующему автоматическому извещению кого следует — после чего какая-нибудь алгоритмическая дура из плоти и крови, формально являющаяся живым свободным человеком, нажмёт «снести аккаунт русского тролля» на своём лаптопе.

В свете сказанного я бы пока не слишком волновался, ув. друзья, о восстании роботов. Ничего нового они не привнесут. На этом пространстве всё дурное уже случилось."

Источник: vk.com

Комментарии: