Это чувство потери контроля

Сотрудники ведущих мировых компаний и учреждений, занимающихся разработкой искусственного интеллекта, страдают от психологического напряжения, связанного с работой над системами, которые могут навредить обществу, сообщает Financial Times. Несколько сотрудников британского Института безопасности ИИ (AISI), мирового лидера в независимом тестировании моделей ИИ, отстранены от работы из-за стресса. Открыто жалуются на аналогичные проблемы сотрудники компаний Anthropic, OpenAI и Google DeepMind. Более десятка ведущих специалистов этих компаний уволились из-за ощущения небезопасности собственной деятельности. Сотрудник DeepMind заявил анонимно, что работа над повышением безопасности ИИ сопряжена с риском выгорания, поскольку кажется "невыполнимой задачей". "Работа над системами ИИ в целом сопряжена с риском для психического здоровья из-за незнания того, как будут использоваться технологии. (...) Многие люди расстроены, были многочисленные увольнения и много отпусков по состоянию психического здоровья. Отчасти это чувство потери контроля, а также ощущение, что ты создаешь что-то, что наносит реальный вред".

Около 73% американцев считают, что компании, занимающиеся искусственным интеллектом, делают недостаточно для предотвращения серьёзных последствий воздействия новейших технологий на общество, свидетельствуют данные опроса, проведённого службой Ipsos для агентства "Рейтерс". 39% американцев считают влияние ИИ на общество отрицательным, 11% — положительным.

Генеральный директор Alibaba У Юнмин заявил, что "команда [разработчиков моделей] Qwen компании Alibaba постоянно продвигает исследования в области архитектуры и оптимизации данных. Они планируют обучать новые модели с 5-10 трлн параметров, стремясь выполнять более сложные и долгосрочные задачи и продвигаясь дальше к искусственному сверхинтеллекту". Китайцы толкают туда же, куда американцы. Сегодня же президент США Трамп, выступая в ООН, пообещал "лишь поощрять, а не сдерживать суперинтеллект".

"В будущем общий аналитический объём, обеспечиваемый машинами, превысит более чем в 1 тыс. раз объёмы человеческого мышления", — также сказал У Юнмин, предположив, что на "машинное мышление" будет приходиться 99,9% общего объёма аналитики в мире.

Непонятно одно: как в здравом уме можно решить, что это что-то хорошее?..

В России генеральный директор ТАСС, президент Организации информационных агентств стран Азии и Тихого океана Андрей Кондрашов заметил, что современные технологии достигли того уровня, когда отличить сгенерированную ложь от правды человеку практически невозможно. "Всё, что сегодня делает искусственный интеллект, дипфейки, которые всё труднее и труднее распознать, они очень похожи на правдивые. Их может выявить так быстро только такой же искусственный интеллект".

То есть это человеческая беспомощность.

Советник президента РАН Евгений Горнев сказал, что "ИИ может смешать ошибочные и достоверные результаты так, что их будет трудно отделить друг от друга. А самый главный риск — утрата компетенций человеком".

Да, только это не "главный риск", а неизбежная траектория внедрения данной технологии. Это даже специально в неё закладывается, см. выше заявления У Юнмина.

Телеграм: t.me/ainewsline

Источник: byt-chelovekom.ru

Комментарии: