Роман Ямпольский рассуждает о том, как фатально, необратимо опасен суперинтеллект и как прекрасны "узкие ИИ-инструменты"

МЕНЮ


Главная страница

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



Роман Ямпольский рассуждает о том, как фатально, необратимо опасен суперинтеллект и как прекрасны "узкие ИИ-инструменты". У него всегда такое раздвоение. Конкретно это выступление хорошо тем, что оно короткое и при этом позволяет понять подноготную. Ямпольский, будучи специалистом по кибербезопасности, долгие годы изучал онлайн-покер и заметил, что в покере всё больше ИИ-ботов и играют они всё лучше. А людей становится меньше и они практически не прогрессируют. Дальше он сам же приводит пример с шахматами: играя в шахматы с искусственным интеллектом, вы можете знать наверняка только то, что он у вас выиграет, но не то, как именно выиграет. Таким образом, довольно забавно, что примеры самого же Ямпольского из области "узкого ИИ" (покер, шахматы) показывают, как развитие узкого ИИ не идёт на пользу людям, как "узкие ИИ-инструменты" отъедают у людей то одно, то другое пространство. Ямпольский просто, будучи профессионалом в сфере цифровых технологий, любит цифровые технологии, и надеется, что на его век профессиональной самостоятельности хватит. Ну, а если появится необратимо опасный суперинтеллект — к чему, как предсказывает Ямпольский, мы как раз и движемся, — тогда уже всем будет всё равно.

Я в своё время задавала Ямпольскому в интернете вопрос, понимает ли он, что "узкие инструменты" отъедают человеческие навыки и постепенно делают людей беспомощными. Он ответил в том смысле, что да, понимает, но это опасность (с его точки зрения) отдалённая и контролируемая, а суперинтеллект — нет.

Дизайн-директор Кучев рассказывает, как "ИИ-инструменты" распространились в дизайне, как их уже используют 9 из 10 дизайнеров, а заканчивает следующим пассажем: "Искусственный интеллект радикально ускорил производство артефактов. Но из-за того, что мы можем быстро получать макеты, код, требования к вкусу дизайнера, его отбору, суждению, к собственной экспертной позиции и пониманию пользователя становятся очень высокими. Мы можем быстро что-то получить, но как из этого выбрать важное? Как понять настоящую проблему пользователя? Какое решение на самом деле элегантнее, красивее, аккуратнее и лучше решает эту проблему? Как я говорил выше, 95% портфолио, которые я отсматриваю, низкого качества — ребята просто не умеют хорошо макетировать руками. С ИИ дизайнеры не овладеют ремеслом. Может быть, продуктовую работу они смогут вести лучше, но вкус и насмотренность ИИ развить не помогает".

Иными словами, ИИ-инструменты — классные, но человеческому профессионализму не помогают (это в лучшем случае).

В Еврейском университете Иерусалима провели исследование, которое показало, что даже те работодатели, которые требуют от работников осваивать искусственный интеллект, ВНЕЗАПНО меньше доверяют тем, кто его активно использует. Вот такая шиза. И она даже неудивительная. С тех, кто использует искусственный интеллект, можно больше требовать, они в итоге начинают работать даже дольше, чем те, кто ИИ не использует. Но с другой-то стороны, работодатель понимает, что это шлак.

Поучительный момент из серии "искусственный интеллект и госуправление": Холли Уикенс, помощник депутата от Лейбористской партии (Британия), рассказывает, как в их офисе растёт поток ИИ-шлака: "Половина электронных писем, которые мы получаем, написаны в той или иной мере с применением искусственного интеллекта"; по её словам, это значительно усложняет чтение запросов и жалоб и отнимает много времени, хоть у неё и десятилетний опыт работы в этой сфере. По словам Деборы Эванс, исполнительного директора юридической фирмы Lawyers in Local Government, с такой проблемой сталкиваются все секторы — госуправление, суды, школы...

А вот Герман Греф решил бы эту проблему очень просто. Он бы сказал, что отвечать на запросы и жалобы (без разницы, человек писал или ИИ) должен искусственный интеллект. К этому выморочному состоянию всё и придёт, и эта статья "Гардиан" тоже заканчивается советом внедрять ИИ для реагирования на запросы общественности.


Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: