Attacking machine learning with adversarial examples

Вы же видели картинку с какой-то голливудской красоткой в очках, которые сводят нейронную сеть с ума и заставляют распознавать картинку как фото Рассела Кроу?

Команда OpenAI рассказала, как обманывают искусственный интеллект и что с этим делать. Как и для многих проблем ИТ-безопасности, очевидного и пуленепробиваемого решения для нее нет: у нас нет даже языка, который достаточно обобщенно рассказывал о решении многопараметрических оптимизационных задач. В общем, очки Рассела Кроу — это, друзья, фронтир и новый 'у567ар —;DROP TABLE "RECORDS"'.

А вы еще камеру на ноутбуке не заклеили.

Источник: openai.com

Комментарии: