Локальный ИИ для кибербеза: модели, которым облако не нужно

Ресёрчер Md Ismail Sojal сравнил опенсорсные модели для vulnerability research, и пост собрал почти 800 тысяч просмотров. Всё бесплатное и работает офлайн.

VulnLLM-R-7B на семи миллиардах параметров заточена под глубокий анализ кода и логические баги. Она рассуждает по потокам данных и управления, прослеживая путь недоверенного ввода до опасной функции, и на бенчмарках обгоняет Claude 3.7 Sonnet и CodeQL. В агентных сетапах ей уже находили реальные zero-day, а квантованные GGUF идут на 8-16 ГБ.

Foundation-Sec-8B-Reasoning от Cisco закрывает threat intel, оценку уязвимостей и симуляцию атак. Хороша как основа для своих security-агентов, на Hugging Face есть и базовая версия без reasoning.

CyberSecQwen-4B тянет CTI, триаж CVE и CWE и быстрые ревью кода на скромном ноутбуке. Meta-SecAlign-8B добавляет устойчивость к prompt injection, что критично, когда локальный агент читает вывод чужих сервисов. Есть и 70B-версия.

Совсем мало памяти? Тогда security-файнтюны на 1,5B поверх DeepSeek-R1-Distill-Qwen, крошечный Llama-Prompt-Guard-86M, Phi-4-mini, Gemma 3 в 1B и 2B, Qwen3 4B. Если железа много, Qwen3 и Qwen2.5-Coder от 7B до 32B в IQ2 или Q4 стабильно топят бенчмарки по SQLi и генерации эксплойтов.

Поднимается за вечер: Ollama, квантованный GGUF с Hugging Face, сверху Strix или свой агент. Ни облака, ни утечки исходников, ни лимитов по токенам.

Источник: https://x.com/0x0SojalSec/status/2074622871771717837

Телеграм: t.me/ainewsline

Источник: x.com

Комментарии: