Проблемы и ошибки машинного обучения, нейронных сетей (нейросетей), глубокого обучения

МЕНЮ


Искусственный интеллект. Новости
Поиск
Регистрация на сайте
Сбор средств на аренду сервера для ai-news

ТЕМЫ


Новости ИИРазработка ИИРабота разума и сознаниеВнедрение ИИРобототехника, БПЛАТрансгуманизмОбработка текстаТеория эволюцииДополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информации

Авторизация



RSS


RSS новости

Новостная лента форума ailab.ru

Последние новости

 

Главные новости

2018-07-13 20:05

Нейросети можно взломать и перепрограммировать


голосовой помощник, ошибки нейросетей, киберугрозы

Исследователи из Google Brain обнаружили метод атак для перепрограммирования нейронных сетей, который позволит взламывать виртуальные помощники в телефонах пользователей с доступом к аккаунтам соцсетей, электронной почты, а также к банковским картам владельца.

Злоумышленник может получить доступ к параметрам генеративно-состязательной

2018-07-04 22:26

В Google Brain нашли способ взлома нейронных сетей


техническое зрение, ошибки нейросетей, киберугрозы

Алгоритмы машинного зрения можно обмануть, выдавая одни объекты за совершенно другие. Еще хуже — и это доказали специалисты Google Brain — что машину можно заставить выполнять совершенно не те действия, для которых она предназначена.

В статье, опубликованной на сервере Arxiv.org, исследователи о

2018-06-04 18:18

U of T Engineering AI researchers design ‘privacy filter’ for your photos that disables facial recog


анализ социальных сетей, ошибки нейронных сетей

Исследователи в U из T Engineering разработали "фильтр конфиденциальности", который нарушает алгоритмы распознавания лиц. Система опирается на два созданных AI алгоритма: один выполняет непрерывное распознавание лиц, а другой предназначен для разрушения первого. (Кредит: Авишек Бозе

Researchers in U of T Engineering have designed a ‘privac

2017-12-02 13:28

Можно ли обмануть искусственный интеллект?


ошибки машинного обучения

Можно ли обмануть искусственный интеллект?

Да. И это намного проще, чем кажется.

К этому выводу пришли японские исследователи из университета Кюсю. Они нашли способ легко запутать нейросеть при распознавании небольших пиктограмм – как выяснилось, для этого в картинке достаточно поменять всего один пиксель (правда, сделать это

2017-11-05 14:10

Искусственный интеллект Google принял черепаху за ружьё


ошибки нейронных сетей

Благодаря беспилотным автомобилям и «умным» камерам наблюдения общество понемногу учится доверять искусственному интеллекту больше, чем собственным глазам. Но хотя новые системы видения неутомимы и всегда бдительны, они далеки от непогрешимости. Посмотрите на черепаху сверху. Она выглядит как черепаха, верно? Для нас, но не для нейро

2017-11-04 21:55

Создан новый метод для поиска багов в беспилотных автомобилях


Беспилотный автомобили, ошибки нейронных сетей

Ученые представили свое исследование на ежегодном Симпозиуме по основам операционных систем (Symposium on Operating Systems Principles, SOSP). Конференция проходила в Шанхае с 28 по 31 октября. Новый метод, DeepXplore, использует по крайней мере три нейронные сети. Они взаимодействуют как «перекрестны

2017-11-03 13:39

Как студенты МIT обманули ИИ Google


искусственный интеллект, ошибки нейронных сетей

Мы все больше полагаемся на способности ИИ, которые он демонстрирует в распознавании от экзотических состояний материи до конкретного лица. Но насколько все-таки трудно обмануть эти программные алгоритмы? Именно это и захотели выяснить студенты Массачусетского технологического института (MIT).

Группа студентов решила узнать, насколько

2017-10-10 09:25

Почему алгоритмы машинного обучения начинают ошибаться


опасность искусственного интеллекта, ошибки нейросетей

Мы часто слышим о том, как очередной сложный алгоритм искусственного интеллекта начал ошибаться или стал следовать предрассудкам, которым машины не должны быть подвержены. Почему так происходит? В истоках проблемы разбиралась cпециалист по работе с данными Ребекка Нджери (Rebecca Njeri) из Сиэтла.

Недочеты в обучении ML-алгоритмов част

2017-08-07 16:00

Атака на модели машинного обучения сбивает робоавтомобили


методы машинного обучения, техническое зрение, Беспилотный автомобили, ошибки нейронных сетей

Набор экспериментальных изображений с художественными стикерами на разных расстояниях и под разными углами: (а) 5 футов, 0 градусов; (b) 5' 15°; (с) 10' 0°; (d) 10' 30°; (e) 40' 0°. Обман работает на любом расстоянии и под любым углом: вместо знака «Стоп» с

2017-07-16 11:21

«Яндекс» смог обмануть систему распознавания лиц


ит новости, методы распознавания образов, ошибки нейросетей

«Яндекс» смог обмануть систему распознавания лиц

Достаточно нанести на лицо макияж, подобранный специальным алгоритмом, и идентификация значительно усложнится. Впрочем, «Яндекс» не спешит делиться способом обмана, чтобы им не воспользовались злоумышленники


Фото: Сергей Бобылев/ТАСС

Систему распознавания лиц можно обмануть. Оказ

2017-01-26 08:12

Узоры на одежде блокирует работу программы распознавания лиц в системах видеонаблюдения « Gearmix


теория распознавания образов, проблемы нейронных сетей

Разработано новое средство против слежки, предоставляющее пользователю возможность не быть опознанным камерами видеонаблюдения, использующими технологию распознавания лиц. На материал одежды наносятся сложные цветные узоры в виде оцифрованных изображений человеческих лиц или их отдельных частей, чтобы перегрузить и тем самым обмануть программн

2016-11-04 03:08

Специальные очки меняют личность человека для системы распознавания лиц


методы распознавания образов, искусственные нейронные сети, ошибки нейронных сетей

Успешная имперсонификация в системе распознавания лиц. Слева: актриса Риз Уизерспун, личность которой нейросеть распознаёт с вероятностью 100%. В центре: очки, подобранные для имперсонификации актёра Рассела Кроу. Справа: жертва имперсонификации

Благодаря нейросетям системы машинного зрения достигли рекордной точности результаты в распозна
 

2018-07-14 12:20

Нейросеть обманом «перепрограммировали» на распознавание совсем других объектов


проблемы нейросетей

Gamaleldin Elsayed et al. / arXiv.org, 2018

Исследователи из Google Brain создали метод, позволяющий применять для выполнения определенной задачи нейросетевой алгоритм, обученный выполнять другую задачу, используя для такого «перепрограммирования» только входные данные. К примеру, авторы показали, как можно с&

2018-07-11 21:09

Безопасность машинного обучения: эффективные методы защиты или новые угрозы?


методы машинного обучения, ошибки нейросетей

Одними из самых популярных и обсуждаемых новостей последние несколько лет являются — кто куда добавил искусственный интеллект и какие хакеры что и где сломали. Соединив эти темы, появляются очень интересные исследования, и на хабре уже было несколько статей посвященных тому, что есть возможность обманывать модели машинного обучения, к примеру:

2018-04-12 12:27

Мечтают ли нейросети об электроовцах?


ошибки нейронных сетей, распознавание образов

Если вы пользуетесь интернетом, вы наверняка взаимодействовали с нейросетями. Это разновидность алгоритма машинного обучения, используемая во многих областях, от перевода языков до финансового моделирования. Одна из специальностей этого подхода – распознавание изображений. Несколько компаний – включая Google, Microsoft, IBM и Faceboo

2018-04-04 12:46

Запутать робота: как и зачем люди обманывают искусственный интеллект


проблемы нейронных сетей

Хакеры могут атаковать любой искусственный интеллект. Более того, не исключено, что в ближайшем будущем сами вредоносные программы будут использовать алгоритмы искусственного интеллекта для проведения атак

Технологии машинного обучения развиваются невероятными темпами. Не отстают и киберугрозы. А алгоритмы искусственного

2018-02-21 17:09

Расизм на грани абсурда: почему Google Photo больше не распознает горилл


ИТ-гиганты, ошибки машинного обучения

В результате абсурдного скандала,связанного с чернокожими,сервис Google Photo больше не поддерживает запросы«горилла», «шимпанзе» и «макака». Что это — тонкий троллинг или несовершенство машинных алгоритмов обучения?

С чего все началось

В 2015 году чернокожий разработчик программного

2018-02-03 06:24

Четыре способа обмануть нейросеть глубокого обучения


ошибки нейросетей

Нейросети используются уже довольно широко. Чат-боты, распознавание изображений, преобразование речи в текст и автоматические переводы с одного языка на другой — вот лишь некоторые сферы применения глубокого обучения, которое активно вытесняет другие подходы. И причина в основном в более широких возможностях обобщения при обработке больших объ

2017-12-22 11:46

Систему распознавания лица Windows Hello обманули низкокачественным снимком


распознавание образов, искусственный интеллект, ошибки нейронных сетей

Тестирование выполняли специалисты по безопасности из немецкой компании SySS. В процессе проведения эксперимента установлено, что обмануть функцию распознавания лиц Windows Hello, являющуюся неотъемлемой частью разных версиий ОС Windows 10, возможно с помощью распечатанной на принтере фотографии.

Эксперименты проводились на планшетном

2017-11-07 03:59

Первые состязательные 3D-примеры для обмана нейросетей


проблемы нейросетей


Напечатанная на 3D-принтере черепаха распознаётся нейросетью как черепаха (зеленый контур), винтовка (красный контур) или как другой объект (чёрный контур)

Давно известно, что небольшие целенаправленные изменения в картинке «ломают» систему машинного обучения, так что она классифицирует совершенно другое изображение. Такие «троянс

2017-10-25 19:52

Тестирование нейросетей указало на дефекты в «мышлении» беспилотных автомобилей


ошибки нейросетей

Kexin Pei et al. / SOSP ’17

Исследователи из Колумбийского и Лихайского университетов разработали систему для тестирования алгоритмов глубокого обучения. С помощью этой системы разработчики проверили нейросети, в том числе управляющие беспилотными автомобилями, и обнаружили в них тысячи ошибок, проявляющихся

2017-10-11 15:33

Когда лучше не использовать глубинное обучение


искусственные нейронные сети, алгоритмы машинного обучения, реализация нейронной сети, ошибки нейронных сетей

Я понимаю, что странно начинать блог с негатива, но за последние несколько дней поднялась волна дискуссий, которая хорошо соотносится с некоторыми темами, над которыми я думал в последнее время. Всё началось с поста Джеффа Лика в блоге Simply Stats с предостережением об использовании глубинного обучения на малом размере выборки. Он утверждает, что

2017-09-07 19:12

Как создать расистский ИИ, даже не пытаясь. Часть 2


лингвистика, алгоритмы машинного обучения, чат-боты, примеры ии, ошибки нейронных сетей

В первой статье мы успели осознать, как легко и непринужденно ИИ впитывает человеческие предрассудки в логику своих моделей. Как я и обещала, выкладываю вторую часть перевода, в которой мы разберемся, как измерить и ослабить влияние расизма в ИИ с помощью простых методов.

Напомню: мы закончили на том, что наш классификатор

2017-06-13 10:46

Переобученные нейросети в дикой природе и у человека


искусственные нейронные сети, ошибки нейронных сетей

Представьте, что вы проектируете птенца чайки. ТЗ такое — у него довольно плохое зрение, маленький мозг, но ему нужно как можно больше есть, а то сдохнет. Еду ему приносит мама-чайка. Основная задача — распознать маму-чайку и получить у неё еды. Во входной поток зрения поступает, скажем, 320х200 px, и дальше 10 сантиметров от глаза он не умеет фоку

2017-03-27 16:06

Ученые вылечили ИИ от забывчивости


искусственные нейронные сети, ошибки нейронных сетей

Искусственные нейронные сети отличаются от биологических аналогов неспособностью «запомнить» прошлые навыки при обучении новой задаче. Искусственный интеллект, натренированный на распознавание собак, не сможет различать людей. Для этого его придется переобучить, однако при этом сеть «забудет» о существовании собак. То же касается и игр – ИИ, уме