Пришло предложение от "Госуслуг" пройти опрос Минцифры об отношении к искусственному интеллекту

МЕНЮ


Главная страница

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



Пришло предложение от "Госуслуг" пройти опрос Минцифры об отношении к искусственному интеллекту. Якобы "полученные результаты будут использованы для оценки уровня доверия граждан к искусственному интеллекту и определения направлений его дальнейшего развития и применения".

Ну, что ж, решила пройти опрос, чтобы обозначить НЕдоверие. Ответила, что не доверяю и не использую, — такие варианты ответов пока есть, я даже чуть приободрилась (преждевременно). И тут очередной вопрос требует сказать, какие ИИ-модели использует опрашиваемый, и выкатывается большой список ИИ-моделей. Есть даже варианты "другие отечественные модели" и "другие зарубежные модели", и разрешают выбрать "до одиннадцати вариантов", — но НЕТ варианта "не использую никакие". И этот вопрос — внимание! — обязательный!

То есть если вы не соврёте, что какую-то ИИ-модель используете, — ваш голос не будет засчитан. То есть те, кто не использует искусственный интеллект, — хоть их и так немного в условиях массового внедрежа — попросту отсекаются. Поскольку моей целью было посмотреть опрос в целом (думала, что дальше есть другие вопросы), пришлось пометить, будто использую "Алису AI": этот квадратик шёл первым, и "Яндекс" её всё время принудительно выкатывает вверху поиска. А потом нам скажут, что вот, по опросу Минцифры, уже все россияне используют ИИ, особенно "Алису".

Почти наверняка, и опрос-то делал искусственный интеллект.

В российской компании MWS AI считают, что уже со второй половины 2027 года начнётся использование искусственного интеллекта для подмены речи говорящего в прямом эфире. (О том, что "Майкрософт" запатентовал эту чудную технологию, я писала 01.11). "Главная опасность заключается в том, что прямой эфир больше не будет гарантией подлинности. <…> Искусственный интеллект позволит незаметно подменять слова. <…> Более того, разным группам зрителей можно будет показывать разные версии одного выступления", — отмечает технический лидер MWS AI Иван Копылов.

Зато в Сбербанке разработали "открытую компактную ИИ-модель Pollux для оценки качества ответов нейросетей по заданным пользователем критериям". Как сказали в пресс-службе Сбера, для оценки качества ответов нейросетей обычно используются большие языковые модели, применение которых при массовых проверках требует значительных вычислительных ресурсов, а новая разработка снижает затраты. Но что здесь на самом деле важно, так это то, что сами люди уже не могут (или по умолчанию предполагается, что они не могут) оценить качество ответов нейросетей. Людям остаётся только забивать запросы то в одни, то в другие ИИ-модели.

На "Хабре" как раз интересная статья о том, что даже до искусственного интеллекта наблюдение за автоматикой приводило к тому, что люди эмоционально выгорали: навыки слабели, внимание падало, и это оборачивалось, в том числе, катастрофическими последствиями (например, когда отключался автопилот). Но с ИИ-агентами, которые принимают множество разных решений очень быстро, проблема гораздо острее. Помимо прочего, ещё и потому, что они подстраиваются под то, что человек хочет увидеть.

"Психологи различают две скорости мышления: быструю, привычную (система 1) и медленную, критическую (система 2). Чтобы поймать ошибку агента, нужна вторая, но в рутине человек обычно работает на первой: нажимает одно подтверждение за другим, не вдумываясь. Переключиться на медленное мышление посреди такой работы трудно, и вместо проверки люди опираются на удобные приметы".

Решается это опять тем, что проверка ИИ-моделей передаётся ИИ-моделям. А где на проверку ставят человека, — ставят зачастую начинающих, как наименее ценных (работа ведь монотонная). И таким образом там, где у опытного навык теряется, у молодого он просто не появляется. Вновь: чем искусственный интеллект лучше, тем для человека хуже: "Когда агент ошибается редко, работа сводится к долгому ожиданию ошибки, и внимание рассеивается".


Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: