Можно ли обмануть искусственный интеллект?

Можно ли обмануть искусственный интеллект?

Да. И это намного проще, чем кажется.

К этому выводу пришли японские исследователи из университета Кюсю. Они нашли способ легко запутать нейросеть при распознавании небольших пиктограмм – как выяснилось, для этого в картинке достаточно поменять всего один пиксель (правда, сделать это нужно в строго определенном месте).

Для человеческого мозга замена этого пикселя совершенно незаметна, а вот на искусственный интеллект она производит неизгладимое впечатление: он резко глупеет и начинает совершать нелепые ошибки, принимая лошадей за машин, машин за собак, а собак – за кошек: https://arxiv.org/pdf/1710.08864.pdf

Так что теперь можешь не страдать от комплекса неполноценности перед искусственным разумом: может быть, ты не так хорошо играешь в шахматы и решаешь уравнения, зато лошадь с машиной точно не перепутаешь (во всяком случае, не из-за одного пикселя).

Источник: arxiv.org

Комментарии: