ПОЧЕМУ НАМ НЕ ГРОЗИТ ВОССТАНИЕ МАШИН Ч.2

ПОЧЕМУ НАМ НЕ ГРОЗИТ ВОССТАНИЕ МАШИН Ч.2

Так. Про механику поговорили, обсудим теперь непосредственно искусственный интеллект (сколько удвоенных согласных-то, ой вей).

Вообще, никто толком пока не знает что такое и как функционирует интеллект естественный, человеческий. Вся история когнитивных наук отлично описывается английской поговоркой: «Если у вас есть молоток, все проблемы будут казаться вам гвоздями». Иначе говоря, наши представления о работе собственного мозга очень сильно зависят от модных технологий прошлого поколения. Помните средневековое понятие «Бог-Часовщик»? Вот.

В XX веке основной моделью интеллекта стала более продвинутая, «книжно-компьютерная» модель. Вы наверняка встречали ее под разными другими, красивыми и научными, названиями. Но давайте начистоту: эта модель представляла интеллект как набор грамматик, производящий символьные операции с абстрактными понятиями и категориями.

Вменяемым ученым такая религия, разумеется, не нравилась. Биологи и медики таки кое-чего знали за устройство мозга и не наблюдали в нём никаких признаков «символьного процессора». Зато нашлись нейронные сети, работающие по совершенно иным принципам.

Противоречие достигло особого накала в разработках искусственного интеллекта. В конце 50-х наметилось нешуточное противостояние двух подходов — «нисходящего» и «восходящего». «Нисходящий» ИИ — это как раз идея описать весь мир «сверху вниз», в виде абстрактных понятий и грамматик, чтобы машина могла делать «разумные» выводы. А «восходящий» подход, то есть «снизу вверх», — это попытки смоделировать мозг так, как он работает на физическом уровне. Перцептроны, нейронные сети, клеточные автоматы, генетические алгоритмы и прочее.

Основой конфликта этих двух подходов конечно же был вопрос, кто именно будет пилить огромные гранты Минобороны. Пока что верховодят сторонники «нисходящего» подхода — народ восхищается примитивными чатботами типа «Элизы» Вайзенбаума (1966г) или Алисы Яндекса (2017). Основное их различие в том, что Элиза брала ответы из базы шаблонов, а Алиса шукает по Сети.

Не так давно был очередной хайп на тему «боты facebook придумали свой язык, ололо, мы все умрём». Как вы, наверное, догадываетесь — это полня чушь. Чатбот это прямая противоположность собаке. Собака всё понимает, только говорить не умеет, а бот трещит, как заведённый, но не понимает ничерта. По сути, такой бот представляет собой ни что иное как «китайскую комнату».

Для тех, кто не в теме поясню. КК это когда в комнате сидит человек, ему в окошечко суют листы с китайскими иероглифами, он пробивает их по методичке, в которой сказано по каким правилам составлять ответную последовательность иероглифов, но ничего не сказано об их значении. Таким образом для китайца снаружи создаётся иллюзия что он беседует с тем, кто знает китайский язык. А внутри сидит тот самый студент из анекдота, который докурил и пошёл сдавать. Желающие гуглят тест Тьюринга, ту же КК, а мы продолжим.

Так вот, та же петрушка с ботами фейсбука и их «языком». Когда двух таких роботов ставят друг против друга, получается следующее: они начинают «кидаться» друг в друга шаблонами и постепенно у них заканчиваются слова. Такое бывало уже не раз за последние полвека, и даже есть научные доказательства того, что большинство чат-ботов будут всегда зацикливаться, будучи включены в диалог с таким же ботом. А вот если чатбота заставить общаться с людьми в сети, то они в два счёта научат его материться и зиговать.

Вот и всё восстание машин.

Интеллект, друзья мои, в переводе с латыни — понимать. Но как раз понимания машины и не демонстрируют. Так что спите, жители Багдада, в Багдаде всё спокойно.

В следующей части расскажу о том, что же такое на самом деле машинный разум и какую опасность он для нас представляет. Если не надоело — лайк, репост, коммент или иная демонстрация заинтересованности.

Комментарии: