Проблемы и ошибки машинного обучения, нейронных сетей (нейросетей), глубокого обучения

Машинное обучение и искусственный интеллект - это уже не фантастика, а часть нашей жизни. Поисковые системы, умные ленты, распознавание голоса, лица, компьютерное зрение - уже сейчас машины во многом умнее нас, и сложно представить, насколько увеличится отрыв в будущем!

UAR — это метод для оценки устойчивости классификатора к ранее незнакомым состязательным атакам от OpenAI. Функция потерь Unforeseen Attack Robustness оценивает, как нейросеть справляется с искаженными изображениями. Таким образом можно улучшать стабильность предсказаний модели.

Лучшие доклады Moscow Python 2018

Предлагаем изучить 4 лучших доклада с прошедших конференций для программистов и разработчиков

1. Как защитить алгоритм машинного обучения от Adversarial-примеров

2. Pylint изнутри. Как он это делает / Максим Мазаев (ЦИАН)

3. 50 оттенков celery / Олег Чуркин (TechOps)

Команда специалистов IBM, Amazon и Техасского университета разработала атаку на алгоритмы обработки естественного языка (Natural Language Processing, NLP), с помощью которой им удалось изменить поведение модели искусственного интеллекта.

Инструмент Google Cloud Vision, который с использованием машинного обучения помогает определить, что изображено на картинке, попал в неловкую ситуацию.

Ему показывают картинку, а он не может определиться, утка там или кролик. Может, объяснить ему, что такое оптическая иллюзия?

На семинаре мы обсудим статью "Deep Reinforcement Learning Doesn't Work Yet", автор которой решил исправить проблему недостатка работ, рассказывающих о негативных сторонах глубинного обучения с подкреплением.

Американские разработчики проверили работу восьми алгоритмов компьютерного зрения, используемых для определения объектов на изображениях, и выяснили, что они хуже распознают людей с темной кожей: в среднем на пять процентов. Препринт статьи опубликован на arXiv.org.

Машинное обучение активно применяется во многих областях нашей жизни. Алгоритмы помогают распознавать знаки дорожного движения, фильтровать спам, распознавать лица наших друзей на facebook, даже помогают торговать на фондовых биржах. Алгоритм принимает важные решения, поэтому необходимо быть уверенным, что его нельзя обмануть.

Публикуем лонгрид по ещё одной презентации с прошедшего VK Hackathon. Руководитель прикладных исследований «ВКонтакте» Павел Калайдин рассказывает о работе искусственного интеллекта и о том, как его обмануть.

Распознавание

В феврале исследователи из Google Brain опубликовали работу, из которой следовало, что:

Gamaleldin Elsayed et al. / arXiv.org, 2018

Исследователи из Google Brain обнаружили метод атак для перепрограммирования нейронных сетей, который позволит взламывать виртуальные помощники в телефонах пользователей с доступом к аккаунтам соцсетей, электронной почты, а также к банковским картам владельца.

Исследователи в U из T Engineering разработали "фильтр конфиденциальности", который нарушает алгоритмы распознавания лиц. Система опирается на два созданных AI алгоритма: один выполняет непрерывное распознавание лиц, а другой предназначен для разрушения первого. (Кредит: Авишек Бозе

Хакеры могут атаковать любой искусственный интеллект. Более того, не исключено, что в ближайшем будущем сами вредоносные программы будут использовать алгоритмы искусственного интеллекта для проведения атак

В результате абсурдного скандала,связанного с чернокожими,сервис Google Photo больше не поддерживает запросы«горилла», «шимпанзе» и «макака». Что это — тонкий троллинг или несовершенство машинных алгоритмов обучения?

С чего все началось

Тестирование выполняли специалисты по безопасности из немецкой компании SySS. В процессе проведения эксперимента установлено, что обмануть функцию распознавания лиц Windows Hello, являющуюся неотъемлемой частью разных версиий ОС Windows 10, возможно с помощью распечатанной на принтере фотографии.

Можно ли обмануть искусственный интеллект?

Да. И это намного проще, чем кажется.

Kexin Pei et al. / SOSP ’17

В первой статье мы успели осознать, как легко и непринужденно ИИ впитывает человеческие предрассудки в логику своих моделей. Как я и обещала, выкладываю вторую часть перевода, в которой мы разберемся, как измерить и ослабить влияние расизма в ИИ с помощью простых методов.