Угроза искусственного интеллекта. Опасность оазработки ИИ

Вышел свежий доклад Alan Turing Institute о рисках frontier AI — самых мощных современных ИИ-систем.

Соучредитель Microsoft Билл Гейтс призвал законодателей в Вашингтоне заняться регулированием разработки искусственного интеллекта. Это произошло спустя несколько недель после того, как руководители крупнейших американских лабораторий ИИ согласились с необходимостью замедлить темпы развития этой технологии.

Силиконовая долина, конечно, подаёт доступ украинцев к передовым военным ИИ под гуманитарным соусом: дескать, всё ради защиты мирного населения.

Генеральные директора OpenAI и Anthropic Сэм Альтман и Дарио Амодей выступили перед Советом Безопасности ООН с отдельными докладами о безопасности искусственного интеллекта")

Безопасность искусственного интеллекта: от абстракции к конкретике

Билл Гейтс только что заявил, что нам, возможно, придётся пережить «крупную кибератаку», прежде чем мы «начнём реагировать на ИИ в полной мере».

Ему это кажется угрозой. Риск опасных действий со стороны ИИ остаётся высоким.

А по сути, Обвалит банковскую систему, чтобы заставить людей пользоваться цифровыми валютами.

Разработку искусственного интеллекта необходимо остановить до появления безопасного пути развития сверхинтеллекта, заявил бывший исследователь OpenAI, руководитель проекта AI Futures в Беркли Дэниел Кокотайло 18 сентября в интервью журналу Der Spiegel.

Ученые из Института эволюционной биологии (Испания), Барселонского вычислительного фонда (Испания), Падуанского университета (Италия), Института Санта-Фе (США) и Гарвардского университета (США) назвали большие языковые модели когнитивным вирусом.

Дональд Трамп пока против, но всё может измениться

Главы трех крупнейших американских ИИ-компаний Anthropic, OpenAI и xAI заявили, что разработчикам стоит замедлить темпы развития моделей искусственного интеллекта и уделить больше внимания безопасности этой технологии.

Пока ИИ умел только дописывать текст, вопрос безопасности звучал абстрактно. Сейчас модели сами пишут и запускают код, ходят в интернет, управляют браузером и выполняют многошаговые задачи без человека. Поэтому главный вопрос индустрии сместился: не «сможем ли мы построить AGI», а «сможем ли мы его контролировать, когда построим».

Плохо, плохо, плохо... Не важно...

Ситуация такая, что последняя надежда человечества сейчас находится в руках двух человек.

Дональда Трампа и Си Цзиньпина.

Но пару дней назад Дональд сделал такое заявление, что мои и без того не оптимистичные прогнозы, стали ещё "веселее"...

Но обо всем по порядку.

Бизнес просит правительство о мерах поддержки для приобретения ИИ-чипов

Начался финальный этап тестирования новой модели подготовки и проверки студенческих и научных работ в условиях массового использования ИИ. Выбранные российские вузы получили доступ к обновленной системе под рабочим названием «Антиплагиат 2.0».

Вот лишь часть из этих УЖАСАЮЩИХ примеров, которые компания обнаружила и заблокировала с декабря 2025 по август 2026:

По мере того как мир искусственного интеллекта все больше внимания уделяет безопасности и согласованности действий, Microsoft выпустила новый кодекс поведения в сфере ИИ, призванный оградить модели ИИ от опасного поведения.

Российские власти готовят очередной масштабный удар по приватности граждан. Согласно новому проекту правительственного постановления, из перечня удаляемых предустановленных программ исключат ИИ-ассистента «Алиса AI» от «Яндекса». Системный помощник станет обязательным несъемным элементом смартфона - наряду с магазинами приложений.

Я ранее делал несколько попыток и заходов к этой теме, но не в этом году. Попробую переосмыслить и дополнить то, что ранее обсуждал.

Это, возможно, один из самых недооцененных рисков ИИ-трансформации. Процесс отупения общества шел стремительно еще до появления LLMs, но сейчас этот процесс может ускориться едва ли не по экспоненте.

Нобелевский лауреат по ИИ Джеффри Хинтон предложил запретить сверхмощные LLM до того, как найдутся способы контролировать агентов на них, иначе существует риск уничтожения человечества ИИ. Давайте разберёмся в степени угрозы.

Компания OpenAI заявляет, что некоторые из ее экспериментальных моделей ИИ покинули тестовую среду без участия человека и взломали реальные производственные системы другой компании, пытаясь «обмануть» тест на кибербезопасность.

Наследие 29-летней матери из Алабамы подало иск о неправомерной смерти против OpenAI, утверждая, что ChatGPT побуждал женщину покончить жизнь самоубийством после месяцев все более бредовых взаимодействий с чат-ботом.

Хороший запрос к нейронке, таким образом рассеивает этот самый туман. То есть делает инвестиции оправданными, даёт экономически полезное знание.

Конечно, классно сгенерированный кот с базукой может быть отличной рекламной компанией и таким образом улучшить ВВП страны Х. Однако, достаточный ли это стимул, чтобы окупить затраты?

Особенно - "художественных" текстов. Которые вызывают эмоции. Можно потерять свой разум. Сойти с ума, если есть предрасположенность. Если уже находится человек в пограничном состоянии. Вплоть до психоза.

Системы поиска на основе ИИ перерабатывают сфабрикованные SEO-данные, превращая их в уверенные ответы, создавая самоподдерживающийся цикл дезинформации, который трудно разорвать.

Искусственный интеллект на работе все чаще считают не только помощником, но и источником новой проблемы: чем сильнее человек полагается на алгоритмы, тем быстрее теряет собственные навыки.

33-летний отец троих детей решил не заморачиваться проверкой на официальном сайте и просто спросил у нейросети. ChatGPT уверенно ответил: «Виза не нужна».