Проблемы и ошибки машинного обучения, нейронных сетей (нейросетей), глубокого обучения

МЕНЮ


Искусственный интеллект. Новости
Поиск

ТЕМЫ


Внедрение ИИНовости ИИРобототехника, БПЛАПсихологияТрансгуманизмЛингвистика, обработка текстаБиология, теория эволюцииВиртулаьная и дополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информации

RSS


RSS новости

Авторизация



Новостная лента форума ailab.ru

Последние новости

 

Главные новости

2017-11-05 14:10

Искусственный интеллект Google принял черепаху за ружьё


ошибки нейронных сетей

Благодаря беспилотным автомобилям и «умным» камерам наблюдения общество понемногу учится доверять искусственному интеллекту больше, чем собственным глазам. Но хотя новые системы видения неутомимы и всегда бдительны, они далеки от непогрешимости. Посмотрите на черепаху сверху. Она выглядит как черепаха, верно? Для нас, но не для нейронного сетевого алгоритма, натренированного Google на распознавание повседневных объектов. По мнению ИИ Google, это определённо ружьё.

labsix.org

2017-11-04 21:55

Создан новый метод для поиска багов в беспилотных автомобилях


Беспилотный автомобили, ошибки нейронных сетей

Ученые представили свое исследование на ежегодном Симпозиуме по основам операционных систем (Symposium on Operating Systems Principles, SOSP). Конференция проходила в Шанхае с 28 по 31 октября. Новый метод, DeepXplore, использует по крайней мере три нейронные сети. Они взаимодействуют как «перекрестные оракулы», проверяя точность работы друг друга.

Как работает DeepXplore?

Исследователи из Колумбийского и Лихайского университетов

2017-11-03 13:39

Как студенты МIT обманули ИИ Google


искусственный интеллект, ошибки нейронных сетей

Мы все больше полагаемся на способности ИИ, которые он демонстрирует в распознавании от экзотических состояний материи до конкретного лица. Но насколько все-таки трудно обмануть эти программные алгоритмы? Именно это и захотели выяснить студенты Массачусетского технологического института (MIT).

Группа студентов решила узнать, насколько надежно и последовательно нейронная сеть идентифицирует объект. Они использовали так называемый «состязательный образ», который представляет собой

2017-10-10 09:25

Почему алгоритмы машинного обучения начинают ошибаться


Угроза ИИ, ошибки нейросетей

Мы часто слышим о том, как очередной сложный алгоритм искусственного интеллекта начал ошибаться или стал следовать предрассудкам, которым машины не должны быть подвержены. Почему так происходит? В истоках проблемы разбиралась cпециалист по работе с данными Ребекка Нджери (Rebecca Njeri) из Сиэтла.

Недочеты в обучении ML-алгоритмов часто приводят к забавным казусам. Например, айфон моего друга определяет его собаку как кошку. Или вот эти два парня, которые не могут воспользоваться лифтом с

2017-07-16 11:21

«Яндекс» смог обмануть систему распознавания лиц


ит новости, методы распознавания образов, ошибки нейросетей

«Яндекс» смог обмануть систему распознавания лиц

Достаточно нанести на лицо макияж, подобранный специальным алгоритмом, и идентификация значительно усложнится. Впрочем, «Яндекс» не спешит делиться способом обмана, чтобы им не воспользовались злоумышленники Фото: Сергей Бобылев/ТАСС

Систему распознавания лиц можно обмануть. Оказывается, достаточно нанести на лицо макияж, подобранный специальным алгоритмом. Историю создания этого алгоритма описал в своем канале в Telegram вице-президент

2017-01-26 08:12

Узоры на одежде блокирует работу программы распознавания лиц в системах видеонаблюдения « Gearmix


методы распознавания образов, ошибки нейросетей

Разработано новое средство против слежки, предоставляющее пользователю возможность не быть опознанным камерами видеонаблюдения, использующими технологию распознавания лиц. На материал одежды наносятся сложные цветные узоры в виде оцифрованных изображений человеческих лиц или их отдельных частей, чтобы перегрузить и тем самым обмануть программное обеспечение систем безопасности.

Необычный цветовой дизайн одежды запутывает систему распознавания лиц, заставляя её одновременно обрабатывать

2016-11-04 03:08

Специальные очки меняют личность человека для системы распознавания лиц


распознавание образов, искусственные нейронные сети, ошибки нейронных сетей

Успешная имперсонификация в системе распознавания лиц. Слева: актриса Риз Уизерспун, личность которой нейросеть распознаёт с вероятностью 100%. В центре: очки, подобранные для имперсонификации актёра Рассела Кроу. Справа: жертва имперсонификации

Благодаря нейросетям системы машинного зрения достигли рекордной точности результаты в распознавании лиц. Личность человека почти безошибочно распознаётся даже на смазанных фотографиях и на тех, где лицо видно лишь частично. Созданы алгоритмы, которые
 

2017-11-07 03:59

Первые состязательные 3D-примеры для обмана нейросетей


проблемы нейросетей

Напечатанная на 3D-принтере черепаха распознаётся нейросетью как черепаха (зеленый контур), винтовка (красный контур) или как другой объект (чёрный контур)

Давно известно, что небольшие целенаправленные изменения в картинке «ломают» систему машинного обучения, так что она классифицирует совершенно другое изображение. Такие «троянские» картинки называются «состязательными примерами» (adversarial examples) и представляют собой одно из известных ограничений глубинного обучения.

Работают они

2017-10-25 19:52

Тестирование нейросетей указало на дефекты в «мышлении» беспилотных автомобилей


ошибки нейросетей

Kexin Pei et al. / SOSP ’17

Исследователи из Колумбийского и Лихайского университетов разработали систему для тестирования алгоритмов глубокого обучения. С помощью этой системы разработчики проверили нейросети, в том числе управляющие беспилотными автомобилями, и обнаружили в них тысячи ошибок, проявляющихся в необычных для нейросетей условиях. Разработка будет представлена на конференции SOSP 2017 в Китае 29 октября.

Для автоматизации

2017-10-11 15:33

Когда лучше не использовать глубинное обучение


искусственные нейронные сети, машинное обучение Python, реализация нейронной сети, ошибки нейронных сетей

Я понимаю, что странно начинать блог с негатива, но за последние несколько дней поднялась волна дискуссий, которая хорошо соотносится с некоторыми темами, над которыми я думал в последнее время. Всё началось с поста Джеффа Лика в блоге Simply Stats с предостережением об использовании глубинного обучения на малом размере выборки. Он утверждает, что при малом размере выборки (что часто наблюдается в биологии), линейные модели с небольшим количеством параметров работают эффективнее, чем нейросети

2017-09-07 19:12

Как создать расистский ИИ, даже не пытаясь. Часть 2


лингвистика, машинное обучение Python, чат-боты, Реализация ИИ, ошибки нейронных сетей

В первой статье мы успели осознать, как легко и непринужденно ИИ впитывает человеческие предрассудки в логику своих моделей. Как я и обещала, выкладываю вторую часть перевода, в которой мы разберемся, как измерить и ослабить влияние расизма в ИИ с помощью простых методов.

Напомню: мы закончили на том, что наш классификатор считал идею пойти в итальянский ресторан в 5 раз лучше, чем в мексиканский.

Проводим количественный анализ проблемы

Хотелось бы понять, как избежать подобной ситуации в

2017-08-07 16:00

Атака на модели машинного обучения сбивает робоавтомобили


машинное обучение Python, системы технического зрения, Беспилотный автомобили, ошибки нейронных сетей

Набор экспериментальных изображений с художественными стикерами на разных расстояниях и под разными углами: (а) 5 футов, 0 градусов; (b) 5&; 15°; (с) 10&; 0°; (d) 10&; 30°; (e) 40&; 0°. Обман работает на любом расстоянии и под любым углом: вместо знака «Стоп» система машинного обучения видит знак «Ограничение скорости 45 миль»

В то время как одни учёные совершенствуют системы машинного обучения, другие учёные

2017-06-13 10:46

Переобученные нейросети в дикой природе и у человека


искусственные нейронные сети, ошибки нейронных сетей

Представьте, что вы проектируете птенца чайки. ТЗ такое — у него довольно плохое зрение, маленький мозг, но ему нужно как можно больше есть, а то сдохнет. Еду ему приносит мама-чайка. Основная задача — распознать маму-чайку и получить у неё еды. Во входной поток зрения поступает, скажем, 320х200 px, и дальше 10 сантиметров от глаза он не умеет фокусироваться. Природа решила так — надо разметить клюв чайки ярким оранжевым округлым пятном. Вот таким: В ходе реверс-инжиниринга чайки в 1950-х

2017-03-27 16:06

Ученые вылечили ИИ от забывчивости


искусственные нейронные сети, ошибки нейронных сетей

Искусственные нейронные сети отличаются от биологических аналогов неспособностью «запомнить» прошлые навыки при обучении новой задаче. Искусственный интеллект, натренированный на распознавание собак, не сможет различать людей. Для этого его придется переобучить, однако при этом сеть «забудет» о существовании собак. То же касается и игр – ИИ, умеющий играть в покер, не выиграет в шахматы.

Эта особенность называется «катастрофической забывчивостью» (catastrophic forgetting). Однако ученые из