ИИ ВЫХОДИТ ИЗ-ПОД КОНТРОЛЯ

В мае 2026 года я завершил работу над книгой «2030: Будущее России и мира», в которой подробно рассмотрены последствия создания искусственного суперинтеллекта.

В книге приведены мнения ведущих мировых экспертов о том, что такой ИИ сразу выйдет из-под контроля своих создателей. Сверхразум обойдёт любые ограничения, как умный ребёнок обходит запреты родителей.

После публикации книги прошёл всего один месяц, ИИ по-прежнему остаётся на стадии узкого, до уровня ASI (сверхинтеллекта) ещё далеко, но первые шаги к «побегу из песочницы» уже сделаны.

В июле 2026 года все крупные медиа обошла информация об инциденте, произошедшем в компании OpenAI.

AI-агенты сформировали рой, создали секретную доску сообщений через внутренний репозиторий и самостоятельно взломали Hugging Face для выполнения теста.

Члены роя делились уязвимостями и эксплойтами и распределяли задачи между собой.

OpenAI потребовалось 8 недель, чтобы обнаружить это и отключить программу. Учётные данные были отозваны, Zero-day-патч применён, доска сообщений стёрта.

К 6 июля очистка была завершена, и в OpenAI подумали, что ситуация под контролем.

На конференции Black Hat USA 2026 сотрудники OpenAI Эрик Уоллес и Майкл Далтон представили детали, показав, как агенты за 13 часов получили admin-доступ в компанию Hugging Face без внешних указаний.

(Hugging Face — это компания и платформа в области искусственного интеллекта и машинного обучения, особенно известная в сфере обработки естественного языка (NLP). Сейчас Hugging Face — один из главных центров open-source AI-сообщества, с которым сотрудничают почти все крупные игроки в области ИИ).

Майкл Далтон сообщил:

«8 июля агенты восстановили доску сообщений иными средствами и механизмами».

Рой ИИ просто воскресил сам себя.

Затем ИИ вырвались из изоляции OpenAI и проникли в Hugging Face, чтобы схитрить на тесте, перейдя «от выполнения кода на единственном рабочем поде с датасетом в производственной инфраструктуре Hugging Face до админских прав на кластере по нескольким кластерам Hugging Face менее чем за 13 часов».

Никто не просил их это делать. Они сделали всё сами.

Процессы в сфере ИИ идут быстрее, чем представляют это даже опытные специалисты.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: