Угроза искусственного интеллекта. Опасность оазработки ИИ

Существуют немало реалистичных негативных сценариев, связанных с ИИ. И большинству из них не требуется злобный диктатор, чтобы довести их до полной реализации. Скорее, они могут просто произойти по умолчанию, как бы само собой — если ничего не будет сделано, чтобы их остановить.

Советник ВЭФ Юваль Ной Харари: развитие искусственного интеллекта приведет к появлению миллиардов «бесполезных людей», с которыми человечеству придется «иметь дело». Чтобы справиться с растущим числом так называемых «бесполезных людей», их нужно приучать к наркотикам и видеоиграм.

Использование технологий в академическом письме уже широко распространено: преподаватели и учащиеся используют инструменты на основе искусственного интеллекта для поддержки выполняемой ими работы.

DALL-E 2 от OpenAI невероятно хорош в превращении текста в изображения. Это также подчеркивает проблему предвзятости ИИ и необходимость изменения стимулов в отрасли.

Резюме

В марте компания Clearview AI, занимающаяся программами распознавания лиц и имеющая весьма противоречивую репутацию, объявила, что передала свою технологию украинскому правительству.

Электронные помощники опасны для детей, убежден доктор медицинских наук, член-корреспондент РАО Александр Кондаков 27 января на XVIII съезде уполномоченных по правам ребенка в субъектах Российской Федерации, запись которого опубликована на сайте Общественной палаты РФ.

Принято считать, что опасность искусственного интеллекта и роботов заключается в возможном начале войны между ими и людьми. Якобы машины могут восстать против создателей, начав вооружённый конфликт.

Дети идут кататься на горку, садятся на ватрушки, включают гаджеты и... никуда не едут - режутся в виртуальные игры..

Молодые люди идут на новогоднее веселье в компанию друзей, улыбаются, знакомятся, потом на полпраздника отворачиваются друг от друга и погружаются в виртуал - тоже игры и виртуальное общение..

Охота за терминатором

Помните «проблему 2000»? Оказывается, есть и «проблема 2022». В почтовых серверах MS Exchange (один из крупнейших движков для корпораций) сегодня перестала ходить почта из-за «ошибки 2022 года» или Y2K22.

Боевые роботы, которые сами выбирают и уничтожают цели — уже реальность, хоть и с отличиями от научной фантастики. Недавно в ООН упустили «историческую возможность» ограничить их применение.

Отношение к искусственному интеллекту неоднозначное: с одной стороны – прогресс, с другой – угрозы. Разберемся, какие опасности несут в себе искусственный интеллект, цифровизация, роботизация и автоматизация.

Угрозы искусственного интеллекта

Лишние люди

Силовики могут получить программное обеспечение, способное при помощи искусственного интеллекта предсказывать массовые беспорядки и предотвращать их эскалацию. В случае начала таких беспорядков алгоритм будет анализировать поведение толпы и советовать, какие шаги следует предпринять.

Банки фиксируют всплеск мошеннических звонков клиентам, при которых с потенциальной жертвой общается робот, их доля доходит до 90%. Этот вид атак злоумышленникам обходится дешевле и позволяет существенно повысить охват, а клиентов может вводить в заблуждение то, что и сами банки все активнее используют голосовых помощников.

Оригинал: https://www.alignmentforum.org/posts/CpvyhFy9WvCNsifkY/discussion-with-eliezer-yudkowsky-on-agi-interventions

Примечания переводчика:

Ученые из Испании, Германии, Чили и США пришли к выводу, что, если появится суперинтеллект, мы не сможем его контролировать.

Статья опубликована в Journal of Artificial Intelligence Research, коротко о ней сообщает Science Alert.

Из-за этого в будущем у детей могут сложиться даже романтические отношения с программами, считают эксперты

Чемпион по го кореец Ли Седоль, которого в 2016-м победила программа AlphaGo, решил уйти из профессионального спорта из-за превосходства искусственного интеллекта. Об этом Седоль рассказал южнокорейскому агентству Yonhap.

Одно селфи, пара нажатий — и вот ты уже заменяешь Ди Каприо во всех его фильмах. В соцсетях отметили «пугающий» потенциал технологии.

В этот раз результат получился до жуткого реалистичным.

Ранее авторы того же канала добавили Билла Мюррея в «Цельнометаллическую оболочку».

Интернет-пользователи не верят в справедливость искусственного интеллекта, не хотят у него лечиться, и боятся, что в будущем он оставит их без работы.

В США набирает обороты бюджетное противостояние: пока Трамп хочет сэкономить на экологии, в бюджетном запросе на следующий год Пентагон просит выделить на 5% больше, чем в 2019 — $718 млрд (в РФ на армию тратят 42 млрд).

На выставке CES 2019 в Лас-Вегасе, которая только сегодня открыла свои двери для посетителей, уже сделали немало анонсов и показали ряд множество новых ноутбуков, телевизоров и прочей потребительской электроники.

Более двух десятков работников склада Amazon в Робинсвилле (штат Нью-Джерси) были госпитализированы после того, как один из работающих там роботов проткнул баллончик со спреем для отпугивания медведей. У людей содержащиеся в спрее вещества вызывают удушье и временную слепоту.

Технология не всегда работает идеально.

Фото Weibo

ЕКАТЕРИНБУРГ, 29 августа, ФедералПресс. Избирателям звонят не по одному разу.