Проблемы и ошибки машинного обучения, нейронных сетей (нейросетей), глубокого обучения

Искусственный интеллект в последнее время активно применяется в сфере кибербезопасности. Новейшие разработки в области ИИ используются по обе стороны киберфронта.

Любому очевидно, что ниже показаны три совершенно разные картинки: птица, собака и лошадь. Но с точки зрения алгоритма машинного обучения, все три могут восприниматься как одинаковые: ведь на каждом из них есть белый квадратик в черной рамке.

Вы узнаете, как можно обмануть нейронную сеть, но будьте бдительны и не дайте ввести в заблуждение себя.

Дело в том, что лектор в некоторых местах лекции вместо «верх» говорит «низ», вместо «красный» говорит «белый". И наоборот. Хотя по контексту всё понятно — не пугайтесь. )))))

Нейросеть DALL-E способна создавать изображения по текстовым описаниям. Сейчас же разработчики представили обновленную DALL-E 2, умеющую редактировать уже готовые картинки.

Новая технология работает по тому же принципу, что и адаптивная иммунная система человека.

Во многих популярных курсах машинного и глубокого обучения вас научат классифицировать собак и кошек, предсказывать цены на недвижимость, покажут еще десятки задач, в которых машинное обучение вроде как отлично работает. Но вам расскажут намного меньше (или вообще ничего) о тех случаях, когда ML-модели не работают так, как ожидалось.

Используемая сейчас архитектура разработки ИИ для распознавания изображений имеет серьёзные уязвимости, при эксплуатации которых можно серьёзно запутать компьютер, заставив его выдавать неправильные результаты. Какие существуют проблемы и способы обмана ИИ — в нашем материале.

Для задач обработки естественного языка (NLP) широко используются как общие, так и специфические для конкретной области модели BERT.

Брендон Рорер, специалист по машинному обучению Бонстонского Университета.

Люк Окден-Райнер, руководитель исследовательского отдела Австралийского института машинного обучения. Немаловажно, в твиттере он написал свои местоимения.

Исследователи из лаборатории машинного обучения OpenAI обнаружили, что даже самые продвинутые системы компьютерного зрения можно без труда обмануть, имея под рукой лишь ручку и блокнот.

Они рассчитывают, что пользователи массово начнут менять фотографии перед загрузкой в сеть, чтобы «отравить» базы данных систем распознавания.

Война роботов оказалась не такой, какой мы её ожидали

Учёные разработали новую нейросеть, которая пытается бороться с классификаторами фейков. С помощью неё, авторы фейка могут вставить в картинку специфический шум, который заставляет другие классификаторы думать, что изображение не претерпевало никаких модификаций.

Как устроено распознавание изображений

DeepRobust — это библиотека на PyTorch для проведения состязательных атак на нейросети, которые обрабатывают картинки и графы. В библиотеке доступны методы защиты от состязательных атак.

Состязательные атаки на нейросети

Лучшие доклады Moscow Python 2018

Предлагаем изучить 4 лучших доклада с прошедших конференций для программистов и разработчиков

1. Как защитить алгоритм машинного обучения от Adversarial-примеров

2. Pylint изнутри. Как он это делает / Максим Мазаев (ЦИАН)

3. 50 оттенков celery / Олег Чуркин (TechOps)

Инструмент Google Cloud Vision, который с использованием машинного обучения помогает определить, что изображено на картинке, попал в неловкую ситуацию.

Ему показывают картинку, а он не может определиться, утка там или кролик. Может, объяснить ему, что такое оптическая иллюзия?

В результате абсурдного скандала,связанного с чернокожими,сервис Google Photo больше не поддерживает запросы«горилла», «шимпанзе» и «макака». Что это — тонкий троллинг или несовершенство машинных алгоритмов обучения?

С чего все началось

Тестирование выполняли специалисты по безопасности из немецкой компании SySS. В процессе проведения эксперимента установлено, что обмануть функцию распознавания лиц Windows Hello, являющуюся неотъемлемой частью разных версиий ОС Windows 10, возможно с помощью распечатанной на принтере фотографии.

В первой статье мы успели осознать, как легко и непринужденно ИИ впитывает человеческие предрассудки в логику своих моделей. Как я и обещала, выкладываю вторую часть перевода, в которой мы разберемся, как измерить и ослабить влияние расизма в ИИ с помощью простых методов.