Проблемы и ошибки машинного обучения, нейронных сетей (нейросетей), глубокого обучения

Они рассчитывают, что пользователи массово начнут менять фотографии перед загрузкой в сеть, чтобы «отравить» базы данных систем распознавания.

Война роботов оказалась не такой, какой мы её ожидали

Учёные разработали новую нейросеть, которая пытается бороться с классификаторами фейков. С помощью неё, авторы фейка могут вставить в картинку специфический шум, который заставляет другие классификаторы думать, что изображение не претерпевало никаких модификаций.

Как устроено распознавание изображений

DeepRobust — это библиотека на PyTorch для проведения состязательных атак на нейросети, которые обрабатывают картинки и графы. В библиотеке доступны методы защиты от состязательных атак.

Состязательные атаки на нейросети

Машинное обучение и искусственный интеллект - это уже не фантастика, а часть нашей жизни. Поисковые системы, умные ленты, распознавание голоса, лица, компьютерное зрение - уже сейчас машины во многом умнее нас, и сложно представить, насколько увеличится отрыв в будущем!

UAR — это метод для оценки устойчивости классификатора к ранее незнакомым состязательным атакам от OpenAI. Функция потерь Unforeseen Attack Robustness оценивает, как нейросеть справляется с искаженными изображениями. Таким образом можно улучшать стабильность предсказаний модели.

Лучшие доклады Moscow Python 2018

Предлагаем изучить 4 лучших доклада с прошедших конференций для программистов и разработчиков

1. Как защитить алгоритм машинного обучения от Adversarial-примеров

2. Pylint изнутри. Как он это делает / Максим Мазаев (ЦИАН)

3. 50 оттенков celery / Олег Чуркин (TechOps)

Команда специалистов IBM, Amazon и Техасского университета разработала атаку на алгоритмы обработки естественного языка (Natural Language Processing, NLP), с помощью которой им удалось изменить поведение модели искусственного интеллекта.

Инструмент Google Cloud Vision, который с использованием машинного обучения помогает определить, что изображено на картинке, попал в неловкую ситуацию.

Ему показывают картинку, а он не может определиться, утка там или кролик. Может, объяснить ему, что такое оптическая иллюзия?

На семинаре мы обсудим статью "Deep Reinforcement Learning Doesn't Work Yet", автор которой решил исправить проблему недостатка работ, рассказывающих о негативных сторонах глубинного обучения с подкреплением.

Американские разработчики проверили работу восьми алгоритмов компьютерного зрения, используемых для определения объектов на изображениях, и выяснили, что они хуже распознают людей с темной кожей: в среднем на пять процентов. Препринт статьи опубликован на arXiv.org.

Машинное обучение активно применяется во многих областях нашей жизни. Алгоритмы помогают распознавать знаки дорожного движения, фильтровать спам, распознавать лица наших друзей на facebook, даже помогают торговать на фондовых биржах. Алгоритм принимает важные решения, поэтому необходимо быть уверенным, что его нельзя обмануть.

Gamaleldin Elsayed et al. / arXiv.org, 2018

Хакеры могут атаковать любой искусственный интеллект. Более того, не исключено, что в ближайшем будущем сами вредоносные программы будут использовать алгоритмы искусственного интеллекта для проведения атак

В результате абсурдного скандала,связанного с чернокожими,сервис Google Photo больше не поддерживает запросы«горилла», «шимпанзе» и «макака». Что это — тонкий троллинг или несовершенство машинных алгоритмов обучения?

С чего все началось

Тестирование выполняли специалисты по безопасности из немецкой компании SySS. В процессе проведения эксперимента установлено, что обмануть функцию распознавания лиц Windows Hello, являющуюся неотъемлемой частью разных версиий ОС Windows 10, возможно с помощью распечатанной на принтере фотографии.

Можно ли обмануть искусственный интеллект?

Да. И это намного проще, чем кажется.

Kexin Pei et al. / SOSP ’17

В первой статье мы успели осознать, как легко и непринужденно ИИ впитывает человеческие предрассудки в логику своих моделей. Как я и обещала, выкладываю вторую часть перевода, в которой мы разберемся, как измерить и ослабить влияние расизма в ИИ с помощью простых методов.