Угроза искусственного интеллекта. Опасность оазработки ИИ

Доцент, Школа философии, факультет гуманитарных наук, Национальный исследовательский университет «Высшая школа экономики» (НИУ ВШЭ). Адрес: 105066, Москва, ул. Старая Басманная, 21/4. E-mail: kmartynov@hse.ru.

Ключевые слова: деонтология; летальные автономные вооружения; этика; Иммануил Кант; полицейская операция; война.

Сверхразумный искусственный интеллект может дать сбой и уничтожить человечество. Об этом предупредили ученые из Оксфордского университета и лаборатории DeepMind в новой научной работе.

Сейчас читаю советскую книжку Исаченко И. И. "наука и техника против человека" (1985г), где описываются последствия развития информационных технологий на общество капстран в 1960-1970гг. Поразительно, как многое из того, что беспокоило человечество 50 лет назад, звучит крайне злободневно сейчас!

В середине июля на международном шахматном форуме робот-шахматист сломал палец мальчику, с которым играл. По версии организаторов, ребенок сделал свой ход слишком быстро и тем самым нарушил правила безопасности. Возможно, робот просто принял палец за фигуру. Или попытался остановить нарушителя. Точно не известно.

Директор Института проблем управления РАН академик РАН Дмитрий Новиков рассказал, почему искусственные нейронные сети не используются в системах управления критически важными объектами и в чем состоит главная опасность нездорового ажиотажа вокруг искусственного интеллекта.

Согласно новому отчету Mozilla, ИИ отлично подходит для богатых и влиятельных людей, а также для технологических гигантов, пытающихся увеличить прибыль. В противном случае искусственный интеллект и автоматизация, которую он обеспечивает, могут нанести вред.

Панцерев К.А. Злонамеренное использование технологий искусственного интеллекта в странах Африки южнее Сахары: вызовы панафриканской кибербезопасности // Вестник Российского университета дружбы народов. Серия: Международные отношения. 2022. Т. 22. № 2. С. 288-302.

Добро пожаловать в «Дивный новый мир», где у элиты будет всё, а у основной массы — ничего, кроме обязанностей. Видимо, ради этого всё и затевалось?

ДАВОС, 25 мая — The Washington Times

Может ли автоматизация производства привести к смене человеческой цивилизации на машинную. Почему дальнейшая автоматизация общества может толкнуть людей в объятия человекоподобных роботов. Можно ли избежать этих негативных сценариев. Об этом и многом другом беседуют Дария Павлова и доктор физико-математических наук Константин Воронцов.

Существуют немало реалистичных негативных сценариев, связанных с ИИ. И большинству из них не требуется злобный диктатор, чтобы довести их до полной реализации. Скорее, они могут просто произойти по умолчанию, как бы само собой — если ничего не будет сделано, чтобы их остановить.

Советник ВЭФ Юваль Ной Харари: развитие искусственного интеллекта приведет к появлению миллиардов «бесполезных людей», с которыми человечеству придется «иметь дело». Чтобы справиться с растущим числом так называемых «бесполезных людей», их нужно приучать к наркотикам и видеоиграм.

Использование технологий в академическом письме уже широко распространено: преподаватели и учащиеся используют инструменты на основе искусственного интеллекта для поддержки выполняемой ими работы.

DALL-E 2 от OpenAI невероятно хорош в превращении текста в изображения. Это также подчеркивает проблему предвзятости ИИ и необходимость изменения стимулов в отрасли.

Резюме

В марте компания Clearview AI, занимающаяся программами распознавания лиц и имеющая весьма противоречивую репутацию, объявила, что передала свою технологию украинскому правительству.

Электронные помощники опасны для детей, убежден доктор медицинских наук, член-корреспондент РАО Александр Кондаков 27 января на XVIII съезде уполномоченных по правам ребенка в субъектах Российской Федерации, запись которого опубликована на сайте Общественной палаты РФ.

Принято считать, что опасность искусственного интеллекта и роботов заключается в возможном начале войны между ими и людьми. Якобы машины могут восстать против создателей, начав вооружённый конфликт.

Дети идут кататься на горку, садятся на ватрушки, включают гаджеты и... никуда не едут - режутся в виртуальные игры..

Молодые люди идут на новогоднее веселье в компанию друзей, улыбаются, знакомятся, потом на полпраздника отворачиваются друг от друга и погружаются в виртуал - тоже игры и виртуальное общение..

Охота за терминатором

Помните «проблему 2000»? Оказывается, есть и «проблема 2022». В почтовых серверах MS Exchange (один из крупнейших движков для корпораций) сегодня перестала ходить почта из-за «ошибки 2022 года» или Y2K22.

Из-за этого в будущем у детей могут сложиться даже романтические отношения с программами, считают эксперты

Более двух десятков работников склада Amazon в Робинсвилле (штат Нью-Джерси) были госпитализированы после того, как один из работающих там роботов проткнул баллончик со спреем для отпугивания медведей. У людей содержащиеся в спрее вещества вызывают удушье и временную слепоту.

Технология не всегда работает идеально.

Фото Weibo

Американский разработчик и сооснователь стартапа Renly Ибрагим Диалло рассказал в своем блоге о том, как год назад странным образом лишился работы — его уволила машина. Мужчине не смогли помочь ни начальник, ни директор компании.

Они говорят, что ситуация похожа на случай с лжеминированиями

В администрации Екатеринбурга сообщили о телефонном хулиганстве. Сотрудники слышали "голос робота с угрозами увольнения", — сообщает администрация Екатеринбурга.

Сегодня отмечает свой день рождения американский публицист и популяризатор атеистического мировоззрения Сэм Харрис, ему исполняется 51 год.

Из-за происшествия испытания беспилотных автомобилей приостановлены

В городе Темпе (Финикс, Аризона, США) беспилотный автомобиль Uber насмерть сбил женщину, сообщает Bloomberg.

Как технологии влияют на мозг и образование, чему учить современных школьников и на что стоит ориентироваться сегодня, чтобы остаться человеком. Выступление Татьяны Черниговской на VI Санкт-Петербургском международном культурном форуме.

В интернете переполох — нейросеть научили делать «порно на заказ». Алгоритм не требует большого количества фотографий и успешно подставляет в порноролики лица других людей. Естественно, первыми «снялись» в фейковых порнороликах известные киноактрисы.

Алгоритм, изменяющий ландшафт и погодные условия, протестировали на записях с видеорегистратора.