Исследователи по безопасности умудрились взломать внутреннюю инфраструктуру разработчиков ChatGPT - OpenAI с помощью конкурирующей нейронки Claude

Атака проходила в рамках официальной программы поиска уязвимостей. Специалисты нашли дыру в Discourse-форуме OpenAI, получили удалённое исполнение кода, а затем через ошибку в SSO добрались до аккаунта сотрудника с доступом к внутренним сервисам и GitHub.

Самое интересное — рабочий эксплойт для уязвимости в libheif помог собрать Claude Opus 5. Исследователи передали модели данные о сервере, а она разобрала структуру памяти, рассчитала условия для переполнения буфера и сгенерировала код для вредоносного HEIF-файла. Дальше атаку уже вручную довели люди.

После получения доступа команда сразу остановила тестирование и сообщила обо всём OpenAI и Discourse. Брешь закрыли примерно за 14 часов, а исследователи получили $6500. Исходный код, по их словам, они не скачивали и не изучали.

Получился довольно показательный момент: ИИ уже помогает не только писать код и искать баги, но и собирать полноценные цепочки эксплуатации. К счастью, в этот раз его использовали те, кто потом ещё и аккуратно открыл пулл-реквест вместо того, чтобы что-нибудь унести.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: