Проблемы и ошибки машинного обучения, нейронных сетей (нейросетей), глубокого обучения

Работа, проделанная в SERI-MATS  Джессикой Рамбелоу и Мэтью Уоткинсом.

TL;DR

Аномальные токены: таинственный режим сбоя для GPT (который надежно оскорбил Мэтью)

В университете Мэриленда придумали «свитер-невидимку» — он делает человека незаметным для систем распознавания лиц. Принт с размытым изображением людей на базаре обманывает модели машинного обучения, и обладатель пуловера может скрыться от искусственного интеллекта.

Искусственный интеллект в последнее время активно применяется в сфере кибербезопасности. Новейшие разработки в области ИИ используются по обе стороны киберфронта.

Любому очевидно, что ниже показаны три совершенно разные картинки: птица, собака и лошадь. Но с точки зрения алгоритма машинного обучения, все три могут восприниматься как одинаковые: ведь на каждом из них есть белый квадратик в черной рамке.

Вы узнаете, как можно обмануть нейронную сеть, но будьте бдительны и не дайте ввести в заблуждение себя.

Дело в том, что лектор в некоторых местах лекции вместо «верх» говорит «низ», вместо «красный» говорит «белый". И наоборот. Хотя по контексту всё понятно — не пугайтесь. )))))

Нейросеть DALL-E способна создавать изображения по текстовым описаниям. Сейчас же разработчики представили обновленную DALL-E 2, умеющую редактировать уже готовые картинки.

Новая технология работает по тому же принципу, что и адаптивная иммунная система человека.

Во многих популярных курсах машинного и глубокого обучения вас научат классифицировать собак и кошек, предсказывать цены на недвижимость, покажут еще десятки задач, в которых машинное обучение вроде как отлично работает. Но вам расскажут намного меньше (или вообще ничего) о тех случаях, когда ML-модели не работают так, как ожидалось.

Используемая сейчас архитектура разработки ИИ для распознавания изображений имеет серьёзные уязвимости, при эксплуатации которых можно серьёзно запутать компьютер, заставив его выдавать неправильные результаты. Какие существуют проблемы и способы обмана ИИ — в нашем материале.

Для задач обработки естественного языка (NLP) широко используются как общие, так и специфические для конкретной области модели BERT.

Брендон Рорер, специалист по машинному обучению Бонстонского Университета.

Люк Окден-Райнер, руководитель исследовательского отдела Австралийского института машинного обучения. Немаловажно, в твиттере он написал свои местоимения.

Исследователи из лаборатории машинного обучения OpenAI обнаружили, что даже самые продвинутые системы компьютерного зрения можно без труда обмануть, имея под рукой лишь ручку и блокнот.

Лучшие доклады Moscow Python 2018

Предлагаем изучить 4 лучших доклада с прошедших конференций для программистов и разработчиков

1. Как защитить алгоритм машинного обучения от Adversarial-примеров

2. Pylint изнутри. Как он это делает / Максим Мазаев (ЦИАН)

3. 50 оттенков celery / Олег Чуркин (TechOps)

Инструмент Google Cloud Vision, который с использованием машинного обучения помогает определить, что изображено на картинке, попал в неловкую ситуацию.

Ему показывают картинку, а он не может определиться, утка там или кролик. Может, объяснить ему, что такое оптическая иллюзия?

В первой статье мы успели осознать, как легко и непринужденно ИИ впитывает человеческие предрассудки в логику своих моделей. Как я и обещала, выкладываю вторую часть перевода, в которой мы разберемся, как измерить и ослабить влияние расизма в ИИ с помощью простых методов.