Художники саботируют ИИ, отравляя обучающие данные для нейросетей

Появилась атака на искусственный интеллект под названием «отравление данных» (data poisoning). Она затронула Midjourney и DALL-E, которые иногда стали возвращать неожиданные результаты.

Отравление данных происходит, когда алгоритмы обучаются на изображениях, подвергшихся манипуляции. Например, инструмент Nightshade незаметно для человеческого глаза изменяет пиксели изображения. Для компьютерного зрения это может оказаться разрушительным.

Отравление данных может пробудить в моделях ИИ прежние ошибки, например, неправильное отображение рук или появлению искажённых объектов (например, собаки с шестью лапами).

Разработчики Nightshade надеются, что их инструмент заставит крупные технологические компании уважать авторские права.

Источник: vk.com

Комментарии: