Проблемы и ошибки машинного обучения, нейронных сетей (нейросетей), глубокого обучения

МЕНЮ


Искусственный интеллект. Новости
Поиск

ТЕМЫ


Внедрение ИИНовости ИИРобототехника, БПЛАТрансгуманизмЛингвистика, обработка текстаБиология, теория эволюцииВиртулаьная и дополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информации

АРХИВ


Октябрь 2017
Сентябрь 2017
Август 2017
Июль 2017
Июнь 2017
Май 2017
Апрель 2017
Март 2017
Февраль 2017
Январь 2017
Декабрь 2016
Ноябрь 2016
Октябрь 2016
Сентябрь 2016
Август 2016
Июль 2016
Июнь 2016
Май 2016
Апрель 2016
Март 2016
Февраль 2016
Январь 2016
0000

RSS


RSS новости
Ураган харви в США

Новостная лента форума ailab.ru

Последние новости

 

Главные новости

2017-10-10 09:25

Почему алгоритмы машинного обучения начинают ошибаться


Угроза ИИ, ошибки нейросетей

Мы часто слышим о том, как очередной сложный алгоритм искусственного интеллекта начал ошибаться или стал следовать предрассудкам, которым машины не должны быть подвержены. Почему так происходит? В истоках проблемы разбиралась cпециалист по работе с данными Ребекка Нджери (Rebecca Njeri) из Сиэтла.

Недочеты в обучении ML-алгоритмов часто приводят к забавным казусам. Например, айфон моего друга определяет его собаку как кошку. Или вот эти два парня, которые не могут воспользоваться лифтом с

2017-07-16 11:21

«Яндекс» смог обмануть систему распознавания лиц


ит новости, распознавание образов, ошибки нейросетей

«Яндекс» смог обмануть систему распознавания лиц

Достаточно нанести на лицо макияж, подобранный специальным алгоритмом, и идентификация значительно усложнится. Впрочем, «Яндекс» не спешит делиться способом обмана, чтобы им не воспользовались злоумышленники Фото: Сергей Бобылев/ТАСС

Систему распознавания лиц можно обмануть. Оказывается, достаточно нанести на лицо макияж, подобранный специальным алгоритмом. Историю создания этого алгоритма описал в своем канале в Telegram вице-президент

2017-01-26 08:12

Узоры на одежде блокирует работу программы распознавания лиц в системах видеонаблюдения « Gearmix


распознавание образов, ошибки нейронных сетей

Разработано новое средство против слежки, предоставляющее пользователю возможность не быть опознанным камерами видеонаблюдения, использующими технологию распознавания лиц. На материал одежды наносятся сложные цветные узоры в виде оцифрованных изображений человеческих лиц или их отдельных частей, чтобы перегрузить и тем самым обмануть программное обеспечение систем безопасности.

Необычный цветовой дизайн одежды запутывает систему распознавания лиц, заставляя её одновременно обрабатывать

2016-11-04 03:08

Специальные очки меняют личность человека для системы распознавания лиц


распознавание образов, искусственные нейронные сети, ошибки нейронных сетей

Успешная имперсонификация в системе распознавания лиц. Слева: актриса Риз Уизерспун, личность которой нейросеть распознаёт с вероятностью 100%. В центре: очки, подобранные для имперсонификации актёра Рассела Кроу. Справа: жертва имперсонификации

Благодаря нейросетям системы машинного зрения достигли рекордной точности результаты в распознавании лиц. Личность человека почти безошибочно распознаётся даже на смазанных фотографиях и на тех, где лицо видно лишь частично. Созданы алгоритмы, которые
 

2017-10-11 15:33

Когда лучше не использовать глубинное обучение


искусственные нейронные сети, машинное обучение Python, реализация нейронной сети, ошибки нейронных сетей

Я понимаю, что странно начинать блог с негатива, но за последние несколько дней поднялась волна дискуссий, которая хорошо соотносится с некоторыми темами, над которыми я думал в последнее время. Всё началось с поста Джеффа Лика в блоге Simply Stats с предостережением об использовании глубинного обучения на малом размере выборки. Он утверждает, что при малом размере выборки (что часто наблюдается в биологии), линейные модели с небольшим количеством параметров работают эффективнее, чем нейросети

2017-09-07 19:12

Как создать расистский ИИ, даже не пытаясь. Часть 2


лингвистика, машинное обучение Python, чат-боты, Реализация ИИ, ошибки нейронных сетей

В первой статье мы успели осознать, как легко и непринужденно ИИ впитывает человеческие предрассудки в логику своих моделей. Как я и обещала, выкладываю вторую часть перевода, в которой мы разберемся, как измерить и ослабить влияние расизма в ИИ с помощью простых методов.

Напомню: мы закончили на том, что наш классификатор считал идею пойти в итальянский ресторан в 5 раз лучше, чем в мексиканский.

Проводим количественный анализ проблемы

Хотелось бы понять, как избежать подобной ситуации в

2017-08-07 16:00

Атака на модели машинного обучения сбивает робоавтомобили


машинное обучение Python, техническое зрение, Беспилотный автомобили, ошибки нейронных сетей

Набор экспериментальных изображений с художественными стикерами на разных расстояниях и под разными углами: (а) 5 футов, 0 градусов; (b) 5&; 15°; (с) 10&; 0°; (d) 10&; 30°; (e) 40&; 0°. Обман работает на любом расстоянии и под любым углом: вместо знака «Стоп» система машинного обучения видит знак «Ограничение скорости 45 миль»

В то время как одни учёные совершенствуют системы машинного обучения, другие учёные

2017-06-13 10:46

Переобученные нейросети в дикой природе и у человека


искусственные нейронные сети, ошибки нейронных сетей

Представьте, что вы проектируете птенца чайки. ТЗ такое — у него довольно плохое зрение, маленький мозг, но ему нужно как можно больше есть, а то сдохнет. Еду ему приносит мама-чайка. Основная задача — распознать маму-чайку и получить у неё еды. Во входной поток зрения поступает, скажем, 320х200 px, и дальше 10 сантиметров от глаза он не умеет фокусироваться. Природа решила так — надо разметить клюв чайки ярким оранжевым округлым пятном. Вот таким: В ходе реверс-инжиниринга чайки в 1950-х

2017-03-27 16:06

Ученые вылечили ИИ от забывчивости


искусственные нейронные сети, ошибки нейронных сетей

Искусственные нейронные сети отличаются от биологических аналогов неспособностью «запомнить» прошлые навыки при обучении новой задаче. Искусственный интеллект, натренированный на распознавание собак, не сможет различать людей. Для этого его придется переобучить, однако при этом сеть «забудет» о существовании собак. То же касается и игр – ИИ, умеющий играть в покер, не выиграет в шахматы.

Эта особенность называется «катастрофической забывчивостью» (catastrophic forgetting). Однако ученые из