Project Glasswing: An initial update

Неверотяно, Antropic показали, что Claude Mythos нашла более 10 тыс. критических уязвимостей у десятков компаний. Особо много дыр было у Cloudflare и тысячи важных опенсорс-проектов.

Независимые исследователи реал подтвердили, что 90% найденных уязвимостей — реальные. Разрабы уже просят тестеров Mythos притормозить, так как они не успевают все фиксить, пока модель находит новые баги.

1752 из этих уязвимостей с высоким и критическим уровнем прошли тщательную проверку силами одной из шести независимых исследовательских компаний в сфере кибербезопасности.

Независимые исследователи подтвердили, что 90% найденных уязвимостей — реальные. Разрабы уже просят тестеров Mythos притормозить, так как они не успевают все фиксить, пока модель находит новые баги.

Сегодня ни одна компания — включая Anthropic - не разработала достаточно надежных механизмов защиты, способных предотвратить использование подобных ИИ-моделей во зло и для причинения потенциально серьезного ущерба.

Именно поэтому к модели не дают доступ широкой аудитории. Но по этой же причине и был запущен Project Glasswing: если модель с аналогичными возможностями будет выпущена кем-то без соответствующих мер, то в скором времени для любого человека в мире станет значительно дешевле и проще эксплуатировать уязвимый код.

Anthropic убедились еще больше, что выпускать Mythos в общий доступ слишком опасно. Никто еще не придумал, как от нее защищаться

https://www.anthropic.com/research/glasswing-initial-update

Телеграм: t.me/ainewsline

Источник: www.anthropic.com

Комментарии: