Пределы машинного обучения, эссе по мотивам #AIJ2020

С каждым годом в обществе возрастает уровень беспокойства, связанный со развитием новых технологий. Прорывы в области автоматизации заставляют людей переживать за свою работу и будущее.

Однако важно понимать, что у машинного обучения имеются свои пределы. В конференции рассматриваются два подхода к созданию искусственного интеллекта – дедуктивный и индуктивный – и значительные ограничения, что они имеют.

В частности, дедуктивный подход предполагает серьезную подготовительную работу: привлечение экспертов, создание базы данных, выделение правил и закономерностей. Индуктивный подход – как видно из названия – идет от частных случаем к общим выводам.

Первый подход зачастую называют экспертными системами, а второй – собственно, машинным обучением. У экспертных систем имеется ряд недостатков, характерных именно для них. К примеру, их необходимо постоянно модифицировать. В отличие от человека, способного обучаться и адаптироваться под новые условия, экспертные системы – жесткая и негибкая система. Они не способны к творчеству и ограничены сенсорно. Экспертные системы представляют собой отличных помощников, но не способны претендовать на место человека.

Как правило, тревогу у человека вызывает именно второй подход, машинное обучение. В новостях то и дело появляются дайджесты новых достижений данной области – нейронные сети уже научились создавать изображения, писать тексты, музыку, водить автомобили, переводить на лету с языка на язык, проходить игры, словом, делать то, что традиционно делал человек, и при этом превосходить его. Но несмотря на пугающий успех нейронных сетей, у них тоже имеется ряд ограничений.

Самый показательный пример – искусственный интеллект, обученный играть в серию игр Атари. Изначально нейронная сеть не обладала какими-либо знаниями о правилах игр, однако через несколько сотен итераций она вырабатывала некоторую стратегию. В конце концов, она успешно справилась с большей частью игр, во многих превзойдя человека, однако с одной игрой ей справиться не удалось.

Причиной провала было то, что нейронная сеть полагалась на моментальные вознаграждения в виде очков за правильные действия, однако в этой игре необходимо было выполнить длинную последовательность действий, прежде чем игра вознаградит человека. Нейронные сети плохо справляются с действиями, вознаграждение за которые наступает в долгосрочной перспективе.

Однако в реальной жизни не существует баллов и последствия за наши действия могут наступать через значительное время. Так что беспокоиться о том, что нейронки нас заменят, пока не стоит. К тому же, пока нейронным сетям не хватает фоновых знаний о мире – там, где человек поймет отсылки или догадается до чего-либо, они пройдут мимо. Нейронные сети не обладают набором знаний как таковых, только набором правил, необходимых для решения задачи.

К ещё одному серьезному ограничению нейронных сетей можно отнести отсутствие у них здравого смысла. Здравый смысл представляет из себя широкий спектр неписаных предположений и эмпирических правил, неявных знаний о мире. Здравый смысл позволяет нам читать между строк, догадываться о значениях, избегать не очевидных опасностей. Ни один человек не проложит маршрут рядом с горящим грузовиком – чего о нейронных сетях сказать нельзя.

Несмотря на выдающиеся успехи в области искусственного интеллекта, говорить о замене человека искусственным интеллектом пока не приходится – и не придется ещё довольно долго. Пока решения нейронных сетей больше напоминают голубиные предрассудки, чем настоящее решение задачи.

P. S.

На картинке и ниже в постах — тест Бонгарда, слева - 6 картинок, соответствующих правилу, справа - 6 картинок, ему не соответствующих. Человек справляется с ними, нейронные сети - пока нет.

P. P. S.

Так как моя мать торжественно провалила тест, прошу считать, что меня воспитала нейронка.

Источник: vk.com

Комментарии: