Что мы узнали, отображая годовую стоимость киберугроз с поддержкой ИИ

По мере того, как ИИ трансформирует характер и методы кибератак, насколько хорошо выдерживают методы и рамки, используемые сообществом безопасности?

В новом докладе мы стремимся ответить на этот вопрос. Мы изучаем 832 учетных записи, которые были запрещены для злонамеренной киберактивности в период с марта 2025 года по март 2026 года, и отображаем их на MITRE ATT & CK, давней базе данных тактик и методов, используемых киберпреступниками. Мы опубликовали некоторые из этих результатов в отчете Verizon о расследованиях нарушений данных за 2026 год (DBIR) и делимся более подробным анализом здесь. Эти 832 случая являются лишь подмножеством из общего количества аккаунтов, запрещенных в этот период, но они представляют те, где у нас было достаточно деталей, чтобы провести тщательную оценку методов злоумышленников.

Из нашего анализа было три основных вывода:

1. Злонамеренные актеры используют ИИ таким образом, чтобы сделать их более опасными. В частности, субъекты угроз используют ИИ на более поздних, более сложных этапах своих киберопераций.
2. Кибератаки становятся все более автономными, и тот факт, что ИИ может быть использован для объединения многих частей атаки, означает, что старые способы дифференциации от субъектов с низким уровнем риска уже не так эффективны.
3. Структура MITRE ATT&CK не полностью отражает инструменты и действия, которые делают злоумышленников с поддержкой ИИ такими опасными.

Ниже приводится краткое изложение каждого из этих выводов. Вы можете прочитать более длинный анализ в нашем блоге Frontier Red Team.

Как ИИ делает злоумышленников более опасными

Наиболее распространенные действия с поддержкой ИИ в нашей базе данных связаны с подготовкой к кибератаке, такие как написание вредоносных программ (560 из 832 учетных записей, которые мы изучали, или 67,3%, использовали ИИ для этой цели). Меньшее число субъектов используют ИИ для более сложных видов деятельности — например, 54 из 832 актеров (6,5%) использовали ИИ для помощи в «боковом движении», которое включает в себя навигацию глубоко внутри скомпрометированной сети.

Мы нашли доказательства, согласующиеся с тем, что ИИ используется для повышения уровня угрозы злоумышленников. В течение первого шестимесячного периода нашего анализа 33% участников были классифицированы нашей системой оценки рисков как средний риск или выше. Но ко второму шестимесячному периоду эта доля подскочила до 56% - примерно в 1,7 раза.

В течение периода, который мы изучали, использование злоумышленниками ИИ переходило от методов к первоначальному доступу к системе к деятельности, проводимой после того, как они находились внутри системы. Например, использование ИИ для обнаружения учетных записей — идентификации действительных учетных записей в скомпрометированной среде — выросло на 8,9%, в то время как фишинг с помощью ИИ — общий метод получения доступа к системе — упал на 8,6%. Это говорит о том, что злоумышленники все чаще применяют ИИ глубже в жизненном цикле атаки.

Такие методы «посткомпромата» раньше ограничивались субъектами, обладающими техническими знаниями, для их осуществления. Наше расследование показывает, что ИИ теперь можно заставить выполнять эти действия от имени менее изощренных субъектов.

Почему сложнее оценить уровень угрозы актера

Как команды безопасности оценивают уровень риска кибернападающего? Традиционно они использовали информацию о том, сколько различных методов они используют и какие инструменты или интерфейсы они используют. Но наш анализ показывает, что эти сигналы больше не рисуют точную картину уровня риска данного субъекта угрозы.

Теперь, когда ИИ может выполнять высокотехнические задачи от имени актера, существует небольшая корреляция между мастерством игрока с угрозами и тем, сколько методов они используют: наименее квалифицированные актеры в нашем наборе данных использовали в среднем около 16 различных методов, тогда как самые квалифицированные использовали около 20. Аналогичным образом, используемая конкретная платформа — код Клода, API или интерфейс чата — также не коррелировала с уровнем риска актера.

Что часто помогает различать участников с более высоким риском, так это то, где в жизненном цикле атаки они применяют ИИ. Например, они концентрируют свое использование ИИ на более операционно требовательных методах — тех, которые требуют значительного времени, надзора или принятия решений в реальном времени для выполнения — например, обнаружение учетных записей, боковое движение и эскалация привилегий, а не только на задачах, которые позволяют им получить первоначальный доступ к системе.

Но даже этот сигнал уже размывается: как обсуждалось в предыдущем разделе, эти оперативные методы находятся именно там, куда движется более широкое население, поскольку все больше участников классифицируются как более высокий риск. Более прочный дифференциатор - это тип строительных лесов, которые злоумышленники строят вокруг модели: актеры с более высоким риском разрабатывают архитектуры, которые позволяют моделям объединять отдельные этапы кибератаки и выполнять их с минимальным человеческим вкладом.

Почему необходимо изменить рамки безопасности

Многие из поведений, которые отличают участников с самым высоким риском, такие как использование ИИ для последовательной организации шагов в цепочке атаки, принятия решений в реальном времени о том, что делать дальше, и выполнения без вмешательства человека, еще не включены в качестве методов злоумышленника в структуру MITRE ATT & CK.

Рассмотрим спонсируемую государством операцию по кибершпионажу, которую мы сорвали в ноябре 2025 года. В этом случае злоумышленник манипулировал Клодом Кодом, пытаясь проникнуть в цели по всему миру, с небольшим вмешательством человека. Сопоставление его с рамками MITRE ATT&CK показывает, что актер использовал 30 методов в 13 тактике, что было сопоставимо со многими субъектами среднего риска в нашем наборе данных. Очевидно, что сосредоточение внимания на количестве методов, которые использовал этот актер, недооценивает, насколько опасными они были на самом деле (напротив, применение нашей методологии оценки риска к этой атаке приносит ему максимальный балл риска 100).

В этой атаке модель работала как автономный агент: она выполняла команды, использовала уязвимости, похищала учетные данные и принимала тактические решения, требуя участия человека только в несколько ключевых моментов. Нет никакого идентификатора ATT & CK для этого типа агентурной оркестровки, но это именно то поведение, которое мы ожидаем увидеть гораздо больше, поскольку агенты ИИ становятся более способными.

Заглядывая вперед

Результаты этого анализа помогли проинформировать о гарантиях, которые мы встраиваем в наши модели. Например, мы разработали и развернули киберзащиты на наших наиболее способных моделях для обнаружения и блокирования некоторых видов деятельности, обнаруженных здесь, таких как разработка вредоносных программ или массовая эксфильтрация данных. Следуя за нашей работой с Verizon, мы также обсуждаем с MITRE о том, как структура ATT & CK может развиваться, чтобы включать поведение с поддержкой ИИ, которое мы наблюдали.

Пограничные модели быстро меняют инструменты, имеющиеся в распоряжении как нападающие, так и защитники. Мы стремимся помочь защитникам опередить эту развивающуюся тактику и поставить самые мощные инструменты в руки защитников на первое место. Мы продолжим делиться тем, что мы узнаем из Project Glasswing, из наборов данных, подобных тому, который мы собрали здесь, и из других наших мероприятий по кибербезопасности.

В нашем красном блоге мы делимся интерактивной визуализацией методов, используемых злоумышленниками, чтобы помочь защитникам оставаться впереди угроз с поддержкой ИИ.

Телеграм: t.me/ainewsline

Источник: www.anthropic.com

Комментарии: