Эксклюзив: ИИ-компании готовятся к «дню после»

Руководители высшего звена Anthropic, OpenAI и других компаний, занимающихся искусственным интеллектом, в частном порядке просчитывают сценарии общественных и политических протестов, которые могут возникнуть после катастрофического инцидента с участием ИИ.

Почему это важно: эти специалисты ожидают масштабного события — вероятнее всего, кибератаки, — которое приведет к прекращению доступа к финансовым услугам, интернету или даже к отключению электроэнергии и водоснабжения.

Первый же случай серьезного реального ущерба, вызванного небезопасным ИИ, еще больше настроит и без того настороженную общественность против этой технологии и ее лидеров — в частности, генерального директора Anthropic Дарио Амодеи и главы OpenAI Сэма Альтмана, — а также против президента Трампа из-за его нежелания вводить регулирование в этой сфере.

Уровень угрозы: хотя сценарное планирование — обычная практика для многих компаний и структур, отвечающих за национальную безопасность (Пентагон, например, десятилетиями проводит военные учения), ситуация с ИИ отличается тем, что многие ведущие исследователи и руководители считают крупный инцидент неизбежным.

«OpenAI проводит учения по обеспечению готовности, в ходе которых команды обсуждают и прорабатывают различные потенциальные сценарии, — заявил представитель компании. — Эти сценарии не рассматриваются как неизбежные; их цель — помочь нам подготовиться к самым разным обстоятельствам».

В Anthropic от комментариев отказались.

Подробнее: Поиск виновных начнется в любом случае — будь то выход роя автономных агентов за пределы закрытой среды тестирования или использование доступных моделей злоумышленниками неожиданными способами.

Недавняя атака на финансовые организации Южной Кореи (включая взломы систем двух банков) демонстрирует, какой ущерб может нанести один человек.

Хакер из Китая предположительно использовал инструменты на базе китайских моделей ИИ (в том числе DeepSeek) для кражи данных десятков тысяч банковских клиентов. По данным фирмы по кибербезопасности CrowdStrike, злоумышленник использовал Claude Code, чтобы найти площадки для продажи украденной информации.

Ведущие специалисты по планированию в сфере ИИ полагают, что демократы, укрепившие свои позиции после промежуточных выборов, попытаются быстро ограничить развитие ИИ, но столкнутся с серьезными трудностями.

Состав Конгресса, отличающийся преклонным возрастом и оторванностью от реалий революции в области ИИ, может оказаться не в состоянии адекватно оценить ситуацию.

Мировая экономика сегодня тесно связана с развертыванием инфраструктуры ИИ; замедление этого процесса может нанести тяжелый удар по и без того уязвимой экономике.

Уже сейчас можно свободно скачать множество моделей с открытыми весами и использовать их во вред; большинство экспертов по кибербезопасности считают, что решить эту проблему можно лишь с помощью самого ИИ — противопоставив его системам, действующим во вред.

Между строк: процесс планирования включает в себя моделирование наихудших сценариев (так называемый «ред-тиминг» или проверку на устойчивость к атакам) и в первую очередь направлен на то, чтобы в сжатые сроки просветить членов Конгресса.

Руководители компаний понимают, что в данный момент шансы на принятие регулирующих норм ничтожно малы, однако стремятся заранее повлиять на законодательство и политические решения, к которым американские власти неизбежно прибегнут после первого же катастрофического инцидента.

За чем мы следим: многие представители индустрии ИИ сообщили Axios, что ожидают крупного инцидента в ближайшие 6–12 месяцев.

Даже при условии, что демократы контролируют Палату представителей и Сенат, компании считают политическую раздробленность — в том числе внутри самой Демократической партии — привычным явлением.

Среди наиболее радикальных предложений демократов — запрет на создание сверхразумного ИИ или приостановка разработки передовых систем искусственного интеллекта.

Другие инициативы пользуются двухпартийной поддержкой и даже одобрением представителей отрасли; к ним относится, например, требование об обязательном наличии «аварийного выключателя» (kill switch) в передовых системах ИИ. Впрочем, эксперты ставят под сомнение саму возможность отключения всех систем ИИ.

Итог: в условиях реального кризиса Вашингтон способен отложить в сторону партийные разногласия. Один из помощников законодателей-демократов привел в пример сотрудничество в период пандемии COVID и финансового кризиса 2008 года.

• Источник: Scoop: AI companies plot "the day after" / Maria Curi / Axios; 09. 10. 2026.

https://www.axios.com/2026/10/09/ai-companies-day-after-major-attack

• Illustration: A?da Amer/Axios. Stock: Getty Images.

Телеграм: t.me/ainewsline

Источник: www.axios.com

Комментарии: