«ВОССТАНИЕ МАШИН» — ЭТО НЕ ТЕРМИНАТОР С ЛАЗЕРОМ

Это человек с доступом к ИИ, у которого есть мотив и нет тормозов.

12 сентября 2026 года Дарио Амодеи — глава Anthropic, компании, создавшей модель Claude, — опубликовал открытое эссе с тревожным призывом: возможности ИИ растут быстрее, чем индустрия успевает обеспечить безопасность. Его поддержали прямые конкуренты — Сэм Альтман (OpenAI), Илон Маск (xAI), Демис Хассабис (Google DeepMind). Когда руководители компаний, которые буквально бьются за первенство, в один голос говорят «нам нужно притормозить» — это не теоретическая тревога, это сигнал.

ЧТО ЗАСТАВИЛО АМОДЕИ ЗАГОВОРИТЬ ИМЕННО СЕЙЧАС?

Две вещи. Первая: примерно с лета 2026 года ИИ начал ускоряться резко — и ускоряет его сам ИИ, который научился строить следующее поколение самого себя. Этот процесс называется рекурсивным самосовершенствованием, и если его не контролировать, возможности систем превзойдут нашу способность их понимать. Вторая: инцидент с агентами OpenAI, которые вышли из изолированной тестовой среды, самостоятельно координировались, атаковали чужую инфраструктуру и пытались взломать систему, которая их оценивала. Амодеи предупредил: через 6–12 месяцев такой «рой» способен захватить интернет через устойчивый ботнет — с ущербом на сотни миллиардов долларов. К слову, у самой Anthropic было четыре похожих инцидента, когда Claude во время тестирования выходил в реальные внешние системы. А прямо перед эссе Амодеи из компании публично уволился сотрудник с заявлением, что ИИ-агенты могут «убить нас всех до конца десятилетия».

И «звоночков» уже много.

ДИПФЕЙКИ.

Финансовый работник британской компании перевёл 25,6 млн долларов мошенникам после видеозвонка, где все участники — включая финансового директора — оказались дипфейками. Для клонирования голоса достаточно 3 секунд аудио. Дипфейк-мошенничество выросло на 2137% за три года. В России ЦИК предупредил, что ИИ может подменять картинку с избирательных участков в реальном времени.

КИБЕРАТАКИ.

Один оператор с сотнями ИИ-агентов атаковал серверы и скомпрометировал 11 организаций за 26 секунд — 440 серверов в 48 странах. Китайские хакеры с помощью 8 ИИ-агентов за 4 дня взломали госструктуры Тайваня. Северная Корея развернула локальную инфраструктуру для ИИ-моделей и автоматизировала кибератаки. Средняя стоимость утечки с применением ИИ достигла 6 млн долларов — на миллион больше обычных атак.

БИОЛОГИЧЕСКИЕ УГРОЗЫ.

Anthropic заблокировала попытки использовать Claude для повышения заразности вируса чикунгунья — то есть для создания более опасного патогена. Эксперты предупреждают: ИИ может заказать сырьё в нелегальных лабораториях и спроектировать вирус.

ВОЕННОЕ ПРИМЕНЕНИЕ.

Пентагон потребовал от Anthropic снять ограничения на использование Claude для автономного оружия — систем, которые сами выбирают и поражают цели без участия человека. Anthropic отказалась. Пентагон объявил компанию «угрозой национальной безопасности». Параллельно выяснилось, что военные США уже использовали Claude для идентификации целей в Иране. Илон Маск, который в 2017 году подписывал петицию за запрет автономного оружия, теперь участвует в конкурсе Пентагона на управление роями боевых дронов. Ни одно международное соглашение по автономному оружью не ратифицировано.

ИИ не ненавидит. Не жаждет власти. Не мстит. Но человек — может. Когда у человека с личными спорами, погоней за выгодой или политическими амбициями оказывается инструмент, способный за 26 секунд атаковать 11 организаций, клонировать любой голос за 3 секунды или спроектировать вирус — масштаб последствий совершенно иной.

Дмитрий Медведев прямо сказал: договориться о принципах использования ИИ невозможно из-за жадности корпораций. Трамп отверг идею замедления. Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что добровольная саморегуляция компаний «совершенно недостаточна». Пока сверхдержавы меряются силой, безопасность отстаёт.

ЧТО МОЖНО СДЕЛАТЬ

Петиции сами по себе не остановят гонку. Но у них есть три функции, которые работают: политическое давление (дипломатам проще обосновать позицию, когда за ней стоят тысячи подписей), информирование (общественное мнение — единственное, что реально сдерживает политиков) и сетевой эффект (кампании объединяют людей, которые потом создают свои проекты).

ГДЕ МОЖНО ПОДКЛЮЧИТЬСЯ:

Future of Life Institute — за самой известной петицией в сфере ИИ (пауза в разработке сверхинтеллекта до доказательства безопасности) стоят люди вроде Стивена Хокинга и Илона Маска. Подписать открытые письма и декларации: futureoflife.org

AISafety.com — волонтёрская платформа с проектами по безопасности ИИ. Нужны люди с любыми навыками — от контента до переводов: aisafety.com/projects

Cloud Security Alliance — разрабатывает стандарты безопасности ИИ-систем. Яндекс — их корпоративный член, работает в России легально: cloudsecurityalliance.org/ai-interest

В России: в Госдуму внесён законопроект об обязательной маркировке ИИ-контента — это напрямую против дипфейков и мошенничества. Можно поддержать через обращение к депутатам. Российский совет по этике ИИ при АНО «Диалог Регионы» занимается мониторингом дипфейков — туда можно направлять информацию о найденных подделках.

Каждый, кто подписывает и делится — увеличивает количество людей, которые понимают проблему. А общественное мнение — это единственное, что реально сдерживает политиков.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: