Можно ли обмануть искусственный интеллект?

МЕНЮ


Искусственный интеллект
Поиск
Регистрация на сайте
Помощь проекту

ТЕМЫ


Новости ИИРазработка ИИВнедрение ИИРабота разума и сознаниеМодель мозгаРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информацииМатематикаЦифровая экономика

Авторизация



RSS


RSS новости


Можно ли обмануть искусственный интеллект?

Да. И это намного проще, чем кажется.

К этому выводу пришли японские исследователи из университета Кюсю. Они нашли способ легко запутать нейросеть при распознавании небольших пиктограмм – как выяснилось, для этого в картинке достаточно поменять всего один пиксель (правда, сделать это нужно в строго определенном месте).

Для человеческого мозга замена этого пикселя совершенно незаметна, а вот на искусственный интеллект она производит неизгладимое впечатление: он резко глупеет и начинает совершать нелепые ошибки, принимая лошадей за машин, машин за собак, а собак – за кошек: https://arxiv.org/pdf/1710.08864.pdf

Так что теперь можешь не страдать от комплекса неполноценности перед искусственным разумом: может быть, ты не так хорошо играешь в шахматы и решаешь уравнения, зато лошадь с машиной точно не перепутаешь (во всяком случае, не из-за одного пикселя).


Источник: arxiv.org

Комментарии: