Угроза искусственного интеллекта. Опасность оазработки ИИ

Идея «восстания машин» не нова и появляется в искусстве с заметной регулярностью. Эксперт рассказывает о том, на каком этапе находится человечество и есть ли опасность нашему существованию от ИИ

Изображение: (cc) geralt Искусственный интеллект
Риск вымирания человечества в случае, если не удастся поставить под контроль развитие искусственного интеллекта, превышает 50%, заявил профессор физики и исследователь искусственного интеллекта Макс Тегмарк, передали 1 июня по шведскому телевидению SVT.

Как искусственный интеллект изменит нашу культуру? Как он будет формировать общество, в котором мы живем? Каковы последствия? Каковы риски? Это пугает? Или захватывает?

На эти вопросы отвечает Юваль Ной Харрари в своем выступлении "Искусственный интеллект и будущее человечества" на Frontiers Forum.

Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества. Внимание на публикацию обратила газета The Guardian.

Обсуждаем угрозы для выживания человечества, которые могут возникнуть из-за появления сильного искусственного интеллекта (AGI), с Татьяной Шавриной (Kali Novskaya) — разработчиком больших языковых моделей, а также энтузиастом опенсорса и открытого ИИ.

Американский юрист, имеющий тридцатилетний опыт практики использовал в суде «фиктивные» цитаты, сгенерированные ChatGPT. Выяснилось, что чат-бот в своих ответах ссылался на несуществующие дела.

В прошлый раз я написал, что неспособность ChatGPT давать индивидуальные рекомендации, а также его склонность к вранью, вызваны не мелкими огрехами обучения, которые можно исправить в следующей версии, а фундаментальной проблемой его архитектуры.

И обещал объяснить, что это за проблема.

По данным инсайдеров, «Единая Россия» намерена на грядущих региональных выборах пустить в дело мощный инструмент. И сразить всех оппонентов.

Он позволит перейти в СМИ от “стрельбы картечью” к “высокоточным ракетам с GPS-наведением”.

Главная опасность генеративного ИИ (типа GPT-4) вовсе не в том, что он позволит масштабировать создание фейков. А в том, что на его базе создается принципиально новый вид СМИ – интерактивные генеративные медиа (ИГМ).

Представители национальной безопасности США предупреждают о возможности того, что новая технология может привести к войне, киберконфликту и — в самом крайнем случае — к применению ядерного оружия.

Глава отдела Пентагона, отвечающий за разработки, связанные с искусственным интеллектом, заявил, что генеративный искусственный интеллект может стать идеальным инструментом для дезинформации.

В течение последних девяти лет Коллинз, 27-летний писатель-фрилансер, зарабатывал деньги, выполняя задания для студентов в США, но сам он живёт в центральной Кении.

Нейросети, генерирующие изображения, уже повсюду. Какие риски приватности они несут?

Ваши (нейро)сети протекают

Первая звучит как довольно стандартный трек Дриззи... с запоминающимся битом и текстами, которые слышаться почти без заминки, будто сам человек читает текст. Однако если прислушаться к тому, что говорит ИИ, то можно понять, что в этом нет особого смысла. Тем не менее, она чертовски запоминающаяся.

Дальнейший прогресс в разработке искусственного интеллекта (ИИ) и его повсеместное применение в обычной жизни может вылиться в еще более значительное распространение дезинформации. С таким заявлением выступил руководитель Google Сундар Пичаи.

А что дальше? Ответа пока нет

Американский дискуссионный военный портал War On The Rocks опубликовал концептуальную статью сотрудника венчурной и консалтинговой компании Decisive Point Джулии ван дер Колф Building A New American Arsenal (Создание нового американского арсенала).

Звучит как эпизод "Черного зеркала", однако мы переживаем эпоху пугающе подлинной эпидемии дипфейк-порно. Дженнифер Савин изучает, как поддельные нюдсы разрушают жизни…

Размещаю текст открытого письма о приостановке экспериментов с ИИ. Илон Маск подписал, Игорь Шнуренко и ещё 11К человек со всего мира, включая меня, тоже поставили свою подпись.

И это действительно сработало.

Просто надоело. Раздражает уже до ужаса. Заранее извиняюсь за сухость — такова моя манера речи, я старше некоторых в этом паблике раза в два.

Новость — не шутка. По крайней мере для сотрудников компании Coca-Cola, где официально решили заменить дизайнеров и копирайтеров нейросетями. ИИ в «лице» ChatGPT планируется использовать для генерации рекламных лозунгов, а DALL-E — для создания визуальных решений.

Чел с огнем играется...

На этом фото вы видите реакцию популярной стримерши QTCinderella на ИИ-порно с ней самой, которое она обнаружила. И я не могу передать насколько это пугает меня. Что ещё хуже, в интернете тут же появились люди, которые считают, что она «переигрывает» и ничего ужасного не случилось.

Лет так 6 назад, когда нейросети впервые начали генерировать что-то похожее на осмысленные тексты и картинки, я понял, что кожаным мешкам осталось недолго. А возможно, что и совсем-совсем немного.

Добрый день, дорогие друзья, тема для канала немного необычная - про бум нейросеток. Точнее, про небольшую их часть, связанную с текстовым и аудиовизуальным контентом.

Художники Sarah Andersen, Kelly McKernan и Karla Ortiz подали иск против создателей нейросетей Midjourney, Stable Diffusion и платформы DeviantArt, которая недавно создала нейросеть DreamUp.

Наученные музеями и элементами художественного образования в школьной программе, о визуальном искусстве мы рассуждаем в формате "художник - картина - год создания". Концепт-арт подразумевает (опционально, в зависимости от желания погрузиться в тему) обсуждение используемых программ и вселенной, к которой он относится.

Может ли автоматизация производства привести к смене человеческой цивилизации на машинную. Почему дальнейшая автоматизация общества может толкнуть людей в объятия человекоподобных роботов. Можно ли избежать этих негативных сценариев. Об этом и многом другом беседуют Дария Павлова и доктор физико-математических наук Константин Воронцов.