Проблемы и ошибки машинного обучения, нейронных сетей (нейросетей), глубокого обучения

МЕНЮ


Искусственный интеллект. Новости
Поиск
Тарифы
Регистрация на сайте

ТЕМЫ


Новости ИИРазработка ИИРабота разума и сознаниеВнедрение ИИРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информации

RSS


RSS новости

Авторизация



Новостная лента форума ailab.ru

Последние новости

 

Главные новости

2017-12-02 13:28

Можно ли обмануть искусственный интеллект?


ошибки машинного обучения

Можно ли обмануть искусственный интеллект?

Да. И это намного проще, чем кажется.

К этому выводу пришли японские исследователи из университета Кюсю. Они нашли способ легко запутать нейросеть при распознавании небольших пиктограмм – как выяснилось, для этого в картинке достаточно поменять всего один пиксель (правда, сделать это нужно в строго определенном месте).

Для человеческого мозга замена этого пикселя совершенно незаметна, а вот на искусственный интеллект она производит

2017-11-07 03:59

Первые состязательные 3D-примеры для обмана нейросетей


проблемы нейросетей

Напечатанная на 3D-принтере черепаха распознаётся нейросетью как черепаха (зеленый контур), винтовка (красный контур) или как другой объект (чёрный контур)

Давно известно, что небольшие целенаправленные изменения в картинке «ломают» систему машинного обучения, так что она классифицирует совершенно другое изображение. Такие «троянские» картинки называются «состязательными примерами» (adversarial examples) и представляют собой одно из известных ограничений глубинного обучения.

Работают они

2017-11-05 14:10

Искусственный интеллект Google принял черепаху за ружьё


ошибки нейронных сетей

Благодаря беспилотным автомобилям и «умным» камерам наблюдения общество понемногу учится доверять искусственному интеллекту больше, чем собственным глазам. Но хотя новые системы видения неутомимы и всегда бдительны, они далеки от непогрешимости. Посмотрите на черепаху сверху. Она выглядит как черепаха, верно? Для нас, но не для нейронного сетевого алгоритма, натренированного Google на распознавание повседневных объектов. По мнению ИИ Google, это определённо ружьё.

labsix.org

2017-11-04 21:55

Создан новый метод для поиска багов в беспилотных автомобилях


Беспилотный автомобили, ошибки нейронных сетей

Ученые представили свое исследование на ежегодном Симпозиуме по основам операционных систем (Symposium on Operating Systems Principles, SOSP). Конференция проходила в Шанхае с 28 по 31 октября. Новый метод, DeepXplore, использует по крайней мере три нейронные сети. Они взаимодействуют как «перекрестные оракулы», проверяя точность работы друг друга.

Как работает DeepXplore?

Исследователи из Колумбийского и Лихайского университетов

2017-11-03 13:39

Как студенты МIT обманули ИИ Google


искусственный интеллект, ошибки нейронных сетей

Мы все больше полагаемся на способности ИИ, которые он демонстрирует в распознавании от экзотических состояний материи до конкретного лица. Но насколько все-таки трудно обмануть эти программные алгоритмы? Именно это и захотели выяснить студенты Массачусетского технологического института (MIT).

Группа студентов решила узнать, насколько надежно и последовательно нейронная сеть идентифицирует объект. Они использовали так называемый «состязательный образ», который представляет собой

2017-10-10 09:25

Почему алгоритмы машинного обучения начинают ошибаться


опасность искусственного интеллекта, ошибки нейросетей

Мы часто слышим о том, как очередной сложный алгоритм искусственного интеллекта начал ошибаться или стал следовать предрассудкам, которым машины не должны быть подвержены. Почему так происходит? В истоках проблемы разбиралась cпециалист по работе с данными Ребекка Нджери (Rebecca Njeri) из Сиэтла.

Недочеты в обучении ML-алгоритмов часто приводят к забавным казусам. Например, айфон моего друга определяет его собаку как кошку. Или вот эти два парня, которые не могут воспользоваться лифтом с

2017-08-07 16:00

Атака на модели машинного обучения сбивает робоавтомобили


методы машинного обучения, техническое зрение, Беспилотный автомобили, ошибки нейронных сетей

Набор экспериментальных изображений с художественными стикерами на разных расстояниях и под разными углами: (а) 5 футов, 0 градусов; (b) 5&; 15°; (с) 10&; 0°; (d) 10&; 30°; (e) 40&; 0°. Обман работает на любом расстоянии и под любым углом: вместо знака «Стоп» система машинного обучения видит знак «Ограничение скорости 45 миль»

В то время как одни учёные совершенствуют системы машинного обучения, другие учёные

2017-07-16 11:21

«Яндекс» смог обмануть систему распознавания лиц


ит новости, методы распознавания образов, ошибки нейросетей

«Яндекс» смог обмануть систему распознавания лиц

Достаточно нанести на лицо макияж, подобранный специальным алгоритмом, и идентификация значительно усложнится. Впрочем, «Яндекс» не спешит делиться способом обмана, чтобы им не воспользовались злоумышленники Фото: Сергей Бобылев/ТАСС

Систему распознавания лиц можно обмануть. Оказывается, достаточно нанести на лицо макияж, подобранный специальным алгоритмом. Историю создания этого алгоритма описал в своем канале в Telegram вице-президент

2017-01-26 08:12

Узоры на одежде блокирует работу программы распознавания лиц в системах видеонаблюдения « Gearmix


теория распознавания образов, проблемы нейронных сетей

Разработано новое средство против слежки, предоставляющее пользователю возможность не быть опознанным камерами видеонаблюдения, использующими технологию распознавания лиц. На материал одежды наносятся сложные цветные узоры в виде оцифрованных изображений человеческих лиц или их отдельных частей, чтобы перегрузить и тем самым обмануть программное обеспечение систем безопасности.

Необычный цветовой дизайн одежды запутывает систему распознавания лиц, заставляя её одновременно обрабатывать

2016-11-04 03:08

Специальные очки меняют личность человека для системы распознавания лиц


методы распознавания образов, искусственные нейронные сети, ошибки нейронных сетей

Успешная имперсонификация в системе распознавания лиц. Слева: актриса Риз Уизерспун, личность которой нейросеть распознаёт с вероятностью 100%. В центре: очки, подобранные для имперсонификации актёра Рассела Кроу. Справа: жертва имперсонификации

Благодаря нейросетям системы машинного зрения достигли рекордной точности результаты в распознавании лиц. Личность человека почти безошибочно распознаётся даже на смазанных фотографиях и на тех, где лицо видно лишь частично. Созданы алгоритмы, которые
 

2018-04-12 12:27

Мечтают ли нейросети об электроовцах?


ошибки нейронных сетей, распознавание образов

Если вы пользуетесь интернетом, вы наверняка взаимодействовали с нейросетями. Это разновидность алгоритма машинного обучения, используемая во многих областях, от перевода языков до финансового моделирования. Одна из специальностей этого подхода – распознавание изображений. Несколько компаний – включая Google, Microsoft, IBM и Facebook – разработали свои алгоритмы разметки фотографий. Но пока эти алгоритмы могут совершать очень странные ошибки.

API для компьютерного зрения

2018-04-04 12:46

Запутать робота: как и зачем люди обманывают искусственный интеллект


проблемы нейронных сетей

Хакеры могут атаковать любой искусственный интеллект. Более того, не исключено, что в ближайшем будущем сами вредоносные программы будут использовать алгоритмы искусственного интеллекта для проведения атак Технологии машинного обучения развиваются невероятными темпами. Не отстают и киберугрозы. А алгоритмы искусственного интеллекта (ИИ) имеют очень серьезную родовую проблему — чувствительность к данным, этим могут воспользоваться хакеры. Появления реальных угроз для ИИ можно ждать в

2018-02-21 17:09

Расизм на грани абсурда: почему Google Photo больше не распознает горилл


ИТ-гиганты, ошибки машинного обучения

В результате абсурдного скандала,связанного с чернокожими,сервис Google Photo больше не поддерживает запросы«горилла», «шимпанзе» и «макака». Что это — тонкий троллинг или несовершенство машинных алгоритмов обучения?

С чего все началось

В 2015 году чернокожий разработчик программного обеспечения смутил Google, заявив, что сервис фотографий Google Photo пометил его снимок с чернокожим другом как «фотография горилл». Google немедленно принес

2018-02-03 06:24

Четыре способа обмануть нейросеть глубокого обучения


ошибки нейросетей

Нейросети используются уже довольно широко. Чат-боты, распознавание изображений, преобразование речи в текст и автоматические переводы с одного языка на другой — вот лишь некоторые сферы применения глубокого обучения, которое активно вытесняет другие подходы. И причина в основном в более широких возможностях обобщения при обработке больших объёмов данных.

А что насчёт целенаправленных атак? Можно ли использовать особенности работы нейросетей и создать такие данные, которые будут

2017-12-22 11:46

Систему распознавания лица Windows Hello обманули низкокачественным снимком


распознавание образов, искусственный интеллект, ошибки нейронных сетей

Тестирование выполняли специалисты по безопасности из немецкой компании SySS. В процессе проведения эксперимента установлено, что обмануть функцию распознавания лиц Windows Hello, являющуюся неотъемлемой частью разных версиий ОС Windows 10, возможно с помощью распечатанной на принтере фотографии.

Эксперименты проводились на планшетном ПК Microsoft Surface Pro 4. На первом этапе испытанию подверглась установленная операционная система Windows 10 Anniversary Update. Версия ОС, выпущенная в

2017-10-25 19:52

Тестирование нейросетей указало на дефекты в «мышлении» беспилотных автомобилей


ошибки нейросетей

Kexin Pei et al. / SOSP ’17

Исследователи из Колумбийского и Лихайского университетов разработали систему для тестирования алгоритмов глубокого обучения. С помощью этой системы разработчики проверили нейросети, в том числе управляющие беспилотными автомобилями, и обнаружили в них тысячи ошибок, проявляющихся в необычных для нейросетей условиях. Разработка будет представлена на конференции SOSP 2017 в Китае 29 октября.

Для автоматизации

2017-10-11 15:33

Когда лучше не использовать глубинное обучение


искусственные нейронные сети, алгоритмы машинного обучения, реализация нейронной сети, ошибки нейронных сетей

Я понимаю, что странно начинать блог с негатива, но за последние несколько дней поднялась волна дискуссий, которая хорошо соотносится с некоторыми темами, над которыми я думал в последнее время. Всё началось с поста Джеффа Лика в блоге Simply Stats с предостережением об использовании глубинного обучения на малом размере выборки. Он утверждает, что при малом размере выборки (что часто наблюдается в биологии), линейные модели с небольшим количеством параметров работают эффективнее, чем нейросети

2017-09-07 19:12

Как создать расистский ИИ, даже не пытаясь. Часть 2


лингвистика, алгоритмы машинного обучения, чат-боты, примеры ии, ошибки нейронных сетей

В первой статье мы успели осознать, как легко и непринужденно ИИ впитывает человеческие предрассудки в логику своих моделей. Как я и обещала, выкладываю вторую часть перевода, в которой мы разберемся, как измерить и ослабить влияние расизма в ИИ с помощью простых методов.

Напомню: мы закончили на том, что наш классификатор считал идею пойти в итальянский ресторан в 5 раз лучше, чем в мексиканский.

Проводим количественный анализ проблемы

Хотелось бы понять, как избежать подобной ситуации в

2017-06-13 10:46

Переобученные нейросети в дикой природе и у человека


искусственные нейронные сети, ошибки нейронных сетей

Представьте, что вы проектируете птенца чайки. ТЗ такое — у него довольно плохое зрение, маленький мозг, но ему нужно как можно больше есть, а то сдохнет. Еду ему приносит мама-чайка. Основная задача — распознать маму-чайку и получить у неё еды. Во входной поток зрения поступает, скажем, 320х200 px, и дальше 10 сантиметров от глаза он не умеет фокусироваться. Природа решила так — надо разметить клюв чайки ярким оранжевым округлым пятном. Вот таким: В ходе реверс-инжиниринга чайки в 1950-х

2017-03-27 16:06

Ученые вылечили ИИ от забывчивости


искусственные нейронные сети, ошибки нейронных сетей

Искусственные нейронные сети отличаются от биологических аналогов неспособностью «запомнить» прошлые навыки при обучении новой задаче. Искусственный интеллект, натренированный на распознавание собак, не сможет различать людей. Для этого его придется переобучить, однако при этом сеть «забудет» о существовании собак. То же касается и игр – ИИ, умеющий играть в покер, не выиграет в шахматы.

Эта особенность называется «катастрофической забывчивостью» (catastrophic forgetting). Однако ученые из