Взлом BERT: Понимание его уязвимостей для распознавания именованных объектов с помощью состязательной атаки

Для задач обработки естественного языка (NLP) широко используются как общие, так и специфические для конкретной области модели BERT.

В данной работе авторы исследуют уязвимость моделей BERT к изменению входных данных для Named Entity Recognition (NER) с помощью состязательных атак. Экспериментальные результаты показывают, что оригинальные, а также специфические для конкретной области модели BERT очень уязвимы к замене entity: В 89,2-99,4% случаев их можно обмануть и ошибочно пометить ранее правильные.

Ссылка на статью: https://arxiv.org/pdf/2109.11308v1.pdf

Ссылка на GitHub: https://github.com/annedirkson/breakingbert

Источник: github.com

Комментарии: