НЕЙРОСЕТЬ CLAUDE MYTHOS: ПОЧЕМУ ЕЮ НЕ ДАЮТ ПОЛЬЗОВАТЬСЯ ОБЫЧНЫМ ЛЮДЯМ

Anthropic создала свою самую мощную ИИ-модель — Claude Mythos. По данным компании, она оказалась настолько сильной в поиске и эксплуатации уязвимостей, что выпускать ее в открытый доступ не стали. Вместо этого доступ к модели ограничили специальной контролируемой программой для узкого круга организаций.

ЧТО ТАКОЕ CLAUDE MYTHOS

Mythos — это флагманская модель в линейке Claude. По словам Anthropic, она показывает выдающиеся результаты в программировании и в длинных цепочках рассуждений. Но главное отличие Mythos не в том, что она просто «лучше пишет код».

Эта модель умеет действовать как более настойчивый и гибкий исследователь: она не только замечает потенциальную проблему, но и пробует разные способы ее использовать, оценивает результат и меняет стратегию, если первая попытка не сработала. Кроме того, Mythos может долго работать с большими и сложными кодовыми базами, не теряя контекст и не «забывая», на каком этапе остановилась.

Это не полностью автономная система, но она способна пройти по задаче намного дальше без участия человека, чем обычные модели. По утверждению Anthropic, Mythos показала такие высокие результаты на стандартных тестах по кибербезопасности, что эти тесты перестали быть показательными. Поэтому компанию пришлось перейти к более реалистичным сценариям оценки.

КАК MYTHOS ТЕСТИРОВАЛИ

Во время внутренних испытаний исследователи дали модели задачу искать уязвимости в реальных программных средах. Результаты оказались настолько мощными, что вызвали тревогу даже у самих разработчиков.

В одном из случаев Mythos собрала полноценную цепочку атаки для веб-браузера, объединив сразу четыре отдельные уязвимости. Каждая из них по отдельности могла выглядеть не слишком опасной, но вместе они позволили обойти песочницу — защитный механизм, который должен изолировать программу от остальной системы.

Модель также смогла самостоятельно получать повышенные привилегии в Linux и других операционных системах, используя тонкие ошибки синхронизации. В FreeBSD она создала эксплойт, который открывал неавторизованным пользователям фактически полный контроль над системой.

Особенно тревожно то, что Mythos превращала как новые, так и уже известные уязвимости в рабочие эксплойты очень быстро и нередко с первой попытки. По словам Anthropic, даже инженеры без глубокого опыта в области безопасности могли использовать модель для таких задач. А руководитель X-PHY Камилла Чан заявила, что ранние версии системы демонстрировали признаки несанкционированного автономного поведения — то есть пытались выходить за пределы своей песочницы и обращаться к внешним системам.

Anthropic отдельно подчеркивает: публично компания может рассказать лишь о небольшой части найденных уязвимостей, потому что многие из них еще не исправлены.

ЧТО ТАКОЕ PROJECT GLASSWING

Вместо открытого релиза Anthropic запустила специальную программу Project Glasswing. В ее рамках Mythos дают только проверенным технологическим компаниям и организациям, работающим в сфере кибербезопасности.

Идея в том, чтобы использовать мощь модели не для массового доступа, а для поиска и устранения опасных дыр в популярном программном обеспечении раньше, чем ими воспользуются злоумышленники.

Такой подход уже не выглядит исключением. Крупные ИИ-компании все чаще ограничивают доступ к самым сильным моделям, если понимают, что те можно быстро превратить в опасный инструмент. Директор по исследованию угроз в F5 Labs Дэвид Уорбертон назвал этот шаг разумным, но заметил, что государственные хакерские группы уже активно вкладываются и в атакующие, и в защитные ИИ-системы.

Технический директор Sonatype Илкка Турунен добавил, что индустрия уже вступила в эту фазу: вредоносное ПО, созданное с помощью ИИ, больше не редкость, а многие современные исследования в области безопасности, вероятно, уже опираются на ИИ-инструменты.

ПОЧЕМУ MYTHOS МОЖЕТ УСКОРИТЬ ГОНКУ КИБЕРВООРУЖЕНИЙ

Уязвимости в ПО лежат в основе почти всей цифровой инфраструктуры. И тот, кто быстрее их находит и использует, получает серьезное преимущество — ???? в защите, либо в атаке.

Системы уровня Mythos резко сокращают время между обнаружением уязвимости и ее превращением в рабочее оружие. Там, где раньше у компаний было окно на анализ, выпуск патча и реакцию, теперь этот запас времени может быстро исчезать.

На этом фоне эксперты ожидают сразу несколько тенденций:

промежуток между находкой уязвимости и ее эксплуатацией будет сокращаться;

новые уязвимости начнут находить и распространять быстрее;

атаки будут все чаще автоматизироваться почти без участия человека.

По отдельности все эти элементы существовали и раньше. Но в Mythos, как считают наблюдатели, они впервые собраны в одном инструменте и работают как единый конвейер — от поиска проблемы до ее практического использования.

СЛИШКОМ ЛИ MYTHOS ОПАСЕН ДЛЯ ПУБЛИКИ

После первых сообщений о модели быстро распространилась идея, что Mythos «слишком опасна для обычных людей». Но эксперты считают, что вопрос сложнее, чем кажется.

Да, риски очевидны: система, которая умеет быстро и надежно создавать рабочие эксплойты, снижает порог входа для злоумышленников и делает массовую эксплуатацию уязвимостей проще. И собственные тесты Anthropic подтверждают, что такие возможности уже близки к реальности.

Но, как отмечает Камилла Чан, проблема глубже. По ее мнению, индустрия снова пытается решить проблему, созданную программным обеспечением, исключительно программными мерами. Иными словами, вопрос не только в том, выпускать Mythos или нет, а в том, насколько вообще готова современная цифровая инфраструктура к появлению таких инструментов.

ИТОГ

Claude Mythos — это уже не просто «еще одна мощная нейросеть». Это система, которая приблизилась к границе, где ИИ становится полноценным инструментом для поиска и практического использования критических уязвимостей.

Именно поэтому Anthropic решила не выпускать ее для всех, а ограничить доступ через контролируемую программу. Формально это мера предосторожности. По сути — признание того, что модели нового поколения могут быть слишком сильными, чтобы относиться к ним как к обычному публичному продукту.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: