Нейросеть обучили развивать собственную «иммунную систему», чтобы предотвращать ввод подозрительных данных Статьи редакции

Новая технология работает по тому же принципу, что и адаптивная иммунная система человека.

Глубокие нейронные сети используются для решения самых разных задач классификации — идентификация изображений и машинное зрение, языковой перевод и обнаружение мошенничества. Однако их можно направить по неправильному ходу «мысли», немного скорректировав входные данные — например, настроить ИИ, разрабатывающий лекарства, не отсеивать токсичные вещества, а наоборот искать их. Команда разработчиков из Мичигана разработала систему обучения нейросетей, которая защищает их от подобных вмешательств.

В то время как врождённая иммунная система осуществляет общую атаку на патогены, адаптивная может генерировать новые клетки, предназначенные для защиты от конкретных патогенов. Оказывается, глубокие нейронные сети, уже вдохновлённые системой обработки информации в мозгу, тоже могут воспользоваться преимуществами этого биологического процесса.

RAILS работает, имитируя естественную защиту иммунной системы, чтобы идентифицировать и информировать о подозрительных входных данных нейронной сети. Она эффективнее ранее разработанных методов машинного обучения, используемых для борьбы с состязательными атаками

Чтобы начать его разработку, команда биологов изучила, как адаптивная иммунная система мышей реагировала на антигены. В эксперименте использовались ткани генетически модифицированных мышей. Команда отслеживала развитие защитных клеток, которое происходит по принципу «проб и ошибок».