Интенсивное развитие ИИ завершено! дальше только количество

В последнее время можно наблюдать обилие статей и различных оптимистических взглядов на будущее ИИ. Где-то даже утверждается, что ИИ — этакий аналог сверхсущности, едва ли не божества, что непременно захватит контроль над планетой.

Трансгуманисты даже заговорили о том, что ИИ — это эволюционная ступень, которая заменит человечество в будущем.

Все эти размышления, конечно, могут внушать оптимизм или пессимизм (смотря с какой точки зрения это разбирать), однако в большинстве своём они базируются на завышенных ожиданиях от этой технологии.

Меж тем, современный ИИ, похоже, достиг технологического пика в своём интенсивном росте, и дальше мы будем наблюдать исключительно экстенсивное развитие.

Почему это так? Давайте разбираться!

Однако прежде чем двигаться дальше, давайте зафиксируем несколько терминов. Начнём с тех, что встретились выше.

Итак, интенсивный рост или развитие — это поиск качественно новых путей, а экстенсивный рост означает всё более широкое применение найденных технологий, увеличение количества применений. Да, согласно количественному закону, экстенсивный рост может принести (и принесёт) и новое качество, однако даже в этом случае такой рост останется экстенсивным.

Теперь, что касается интеллекта. В настоящее время интеллекты принято делить на два класса: Сильный и слабый. Слабый, можно сказать, уже разработан. И хотя нём ещё будут сделаны некоторые шаги, совершены какие-то открытия, можно смело утверждать, что качественных изменений в слабом искусственном интеллекте уже не будет.

Да, развитие приведёт к тому, что требования к "железу", исполняющему программу слабого интеллекта, будут снижаться вплоть до возможности запуска на мобильных устройствах. Да, глубина рассуждений, длины генерируемых текстов (и программ), сложности изображений будут увеличиваться, но... на этом и всё.

Слабый искусственный интеллект — прекрасный инструмент, позволяющий человеку работать с информацией: сформулировать мысли в виде статьи? Пожалуйста. Ссуммировать длинный текст? Запросто! Проанализировать технологический цикл, предложить оптимизации? Проще простого.

В этом месте нам стоит отказаться от термина "Слабый" в пользу термина "Инструментальный". Почему? Потому что понятие "Слабый", во-первых, несёт эмоционально-негативную коннотацию, а во-вторых, инструментальность подчёркивает диапазон или нишу применения.

Несомненно, совершившееся на наших глазах создание и предстоящее внедрение инструментального интеллекта качественно и даже радикально изменит нашу жизнь, но, как указано в заголовке, де-факто этот шаг человечество уже совершило. Далее ничего непредсказуемого или неожиданного здесь нас не ожидает.

Давайте теперь рассмотрим последний (ещё не завершённый или не совершённый) шаг на этом пути — "Сильный искусственный интеллект". В этом месте снова стоит использовать несколько иной термин — "Полный интеллект". Почему? Потому что если термин "слабый" несёт в себе негативную коннотацию, то определение "сильный", в противовес этому, выражает избыточно завышенные ожидания.

Именно эта завышенность обсуждается в данной статье, а потому далее мы будем использовать термины "инструментальный интеллект" вместо "слабый ИИ" и "полный интеллект" вместо "сильный ИИ". Это позволит убрать эмоциональную окраску и лучше отразить их функциональные различия.

Итак, с инструментальным интеллектом мы определились. Да, ещё будут появляться новые способы его реализации: улучшенные архитектуры, эффективные алгоритмы, специализированное железо, как, например, нейроморфные чипы. Однако всё это приведёт лишь к тому, что инструментальный интеллект сможет работать быстрее, эффективнее и на менее мощном оборудовании.

То есть улучшения будут, но качественного скачка, который вывел бы его за пределы инструментальности, не произойдёт.

Прежде чем двигаться дальше, давайте рассмотрим определение полного интеллекта, которое имеется в энциклопедии:

Теория сильного (также используют термин универсальный) искусственного интеллекта предполагает, что искусственная система может приобрести способность мыслить и осознавать себя как отдельную личность (в частности, понимать собственные мысли), хотя и не обязательно, что её мыслительный процесс будет подобен человеческому.

Что здесь является ключевым? Самоосознание — обладание свойствами полноценной самостоятельной личности.

Однако чтобы понять, что это за свойства и какие полезные (или вредные) отсюда следуют выводы, давайте вначале разберёмся с механизмом такого действия, как "обучение", ведь именно на нём базируются как инструментальный, так и полный искусственные интеллекты. Впрочем, без процесса обучения непредставим даже и естественный интеллект.

Итак, сформулируем: обучение — это процесс, при котором субъект обучения (будь то единичный нейрон либо полноценный разум человека) переходит в состояние, которое позволит применять полученные знания с пользой для обучаемого либо общества.

Переход из необученного состояния в обученное — мутация, то есть рассматриваемый нами процесс — мутабельный.

Если мы рассмотрим этот процесс, то он будет представлен схемой, где на входе субъекта находится некоторый поток информации. Обрабатывая этот поток, субъект учится применять вновь получаемые знания с оглядкой на обратную связь, предоставляемую учителем (или средой).

Мутабельность процесса и обратная связь в момент обучения — есть две ключевые сущности, без которых обучение невозможно:

• (Мутабельность) Пока идёт обучение, ученик должен забыть "неправильное знание" и запомнить "правильное".

• (Обратная связь) Передача "правильно" и "неправильно" всегда происходит по внешнему каналу обратной связи.

  Нет большой разницы, оценит ли ответ подростка учитель: "правильно" или "неправильно", либо программа пересчитает входные веса и смещение нейрона, либо мозг выработает дофамин для поощрения успешности развития той или иной части нейронной сети — во всех случаях суть не меняется.

Далее. Если мы рассмотрим подробнее те интеллекты, что имеем перед глазами, а прежде всего человеческий, то увидим следующие признаки и выводы:

• Процесс (само)обучения человека идёт на протяжении всей его жизни, и никогда не завершается. Мозг так устроен, что даже во сне нейронные сети в нём выполняют какую-то работу, моделируя различные ситуации, разбирая стоящие перед организмом задачи.

• Если полный интеллект не будет обладать способностью к самообучению, возможностью пересмотреть те или иные знания, то его сознание будет, условно говоря, догматическим. И чем меньше возможностей к такому пересмотру, тем сильнее данный интеллект будет приближаться к инструментальному интеллекту.

Таким образом, полный интеллект отличается от инструментального:

• наличием самоосознания (записано в определении);

• постоянно работающей возможностью к самообучению (наш вывод).

Рассмотрим теперь Самоосознание, исходя из его определения:

Самосозна?ние — сознание субъектом самого себя в отличие от иного — других субъектов и мира вообще; это сознание человеком своего взаимодействия с объективным миром и миром субъективным (психикой), своих жизненно важных потребностей, мыслей, чувств, мотивов, инстинктов, переживаний, действий. На жизненном пути личности как субъекта культуры и жизни в целом происходит постепенное осознание и освоение диалектической связи сознания и самосознания человека, которое является важным условием выработки и определения стратегии жизни.

можно сформулировать следующий логический вывод:

Без возможности к самообучению самоосознание невозможно. Личность, у которой заблокированы возможности к обучению, к пересмотру или дооформлению тех или иных знаний, смыслов или даже догм, не сможет не только осознать себя "отличающейся от других", но и тем более "определить стратегию своей жизни".

Итого, инструментальный интеллект — это полный интеллект, у которого отключена возможность самообучения. Таким образом у полного интеллекта эта возможность обязана работать постоянно (выключая её, мы преобразуем его в инструментальный).

Если говорить об инструментальном интеллекте, то именно в этом состоит его сила: именно благодаря отключенной обратной связи в нём удаётся сосредоточить сразу все знания, накопленные человечеством. Именно в таком виде это — почти идеальный инструмент.

Однако будет ли полный интеллект обладать теми же свойствами? Увы, нет! Давайте рассмотрим "почему?".

Оставим за скобками способ получения самоосознания (это вопрос отдельной большой статьи, которая в будущем, возможно, будет написана), упомянем лишь то, что, вероятнее всего, самоосознание — есть общественная функция (если коротко: из определения "в отличие от других субъектов" следует необходимость их наличия в процессе обретения этого свойства), и попробуем показать, что полный интеллект — тоже общественная функция.

Итак, полный интеллект — это самоосознающий самообучаемый (мутабельный) интеллект.

Какие вещи следуют из его, например, мутабельности?

Весьма интересные, вот неполный список:

• Необходимость общественных отношений.

Непрерывно работающий процесс пересчёта весов нейронов в мозгу человека приводит к тому, что ему (мозгу) приходится постоянно валидировать их состояние о внешние источники информации, которыми выступает общество (либо продукты им производимые, такие как книги и т.п.).

Известно, например, что люди, попавшие в условия изоляции (заключение, необитаемый остров и др.) довольно быстро сходят с ума. И этот процесс происходит тем скорее, чем более полной становится эта изоляция. Находясь на необитаемом острове, имея с собой набор книжек и вызовов со стороны окружающего мира, человек имеет больше шансов сохранить рассудок, нежели заключённый в тёмном подвале, однако отпечаток на разуме будет в обоих случаях. В последствиях нахождения в одиночестве энциклопедия описывает: когнитивные искажения, перцептивные нарушения, влияние на психику и даже сбои в работе различных, казалось бы, не связанных с сознанием, органов, как, например, система потоотделения.

Итого, мутабельность интеллекта означает, что его знания пересчитываются постоянно. Это происходит даже если результаты этого процесса едва заметны. Пересматривается всё, даже аксиоматические глубокие знания: разум не может остановить заморозить этот процесс, можно говорить лишь скорости изменения знаний. Это подтверждается эффектами изоляции: из-за того, что его внутренние корректировки меняются непрерывно и без привязки к реальности (без внешней обратной связи) интеллект теряет адекватность.

• Необходимость в постоянном поддержании имеющихся знаний.

Многие читатели этого сайта во времена студенчества прошли через занятия высшей математикой. А вот многие ли смогут совладать со сложным интегралом или оперировать такими понятиями, как логарифмическое или интегральное исчисление, после того, как несколько лет прозанимаются чем-то совершенно не связанным с математикой?

Редко у какого человека такое получится!

Почему так? Мы постепенно забываем то, чем не пользуемся! Причина забывания всё та же — непрерывная работа системы (само)обучения в мозгу человека! Этот процесс приводит к тому, что знания, которые он не применяет постоянно, понемногу, постепенно, но утрачиваются. Для сохранения этих знаний, как и в предыдущем случае, требуется обратная связь, но её нет. В этот раз не по причине изоляции, а по причине неприменения, невостребованности!

С одной стороны мутабельность — основа того, что мы вообще способны учиться. С другой — именно это же свойство приводит к тому, что мы не помним каких-то вещей, которые изучаются средним студентом или даже школьником!

Отключитьмутабельность у полного интеллекта нельзя. В этом случае он, как мы выяснили выше, станет инструментальным. А если не отключать, то именно та часть инструментального интеллекта, что приводит нас к излишнему оптимизму, именно его «всезнание» будет утрачено.

Выходит, полный интеллект может быть физиком или программистом, или художником, или кем угодно ещё, но не всем сразу!

Идём дальше. Пока мы разобрали следствия из фактора самообучаемости. Давайте теперь взглянем на самоосознание. Что следует из него?

• Мотивация, предпочтения, и влияние этих факторов на самообучение.

В процессе профессионального роста, естественный интеллект сталкивается с множеством барьеров, и мотивация один из таких.

Взгляните, например, на раздел "прокрастинация" на этом ресурсе. Даже без учёта "смежных" тегов о мотивации, его объём соизмерим с одним из самых популярных языков программирования — JavaScript: сорок пять страниц против пятидесяти (всего десять процентов разницы)!

А ведь мотивация к тому или иному труду определяет успешность личности, скорость освоения ей новых навыков, и напротив, демотивация может полностью заблокировать или свести производительность к нулю даже при наличии оных!

Итого, без свободы мотивации (воли) полный интеллект не может существовать, полностью заблокировать её нельзя. Если задавать мотивацию извне, то интеллект опять становится инструментом, каким бы сложным он ни был.

Нет свободы мотивации — нет полного интеллекта. А если она есть, то его развитие перестаёт быть предсказуемым, управляемым и главное — универсальным.

Именно это отличает инструментальный интеллект от полного: первый лишь выполняет задачи (и уже создан), а второй способен задавать их себе сам — и потому любые ограничения противоречат самой сути полного интеллекта.

Таким образом, построив полный искусственный интеллект, человек будет должен:

• решить вопрос с его мотивацией к труду;

• (количество) сформировать "общество" из интеллектов с тем, чтобы множеством пересилить естественную (определяемую мотивацией) спецализацию. В этом месте у нас появляется разделение труда, как необходимая составляющая;

• (качество) разработать правила, законодательство и (да-да) даже пенитенциарную систему для этого "общества".

  Всё это необходимо хотя бы потому, что каждому интеллекту предоставлен набор свобод, в рамках которых он выбирает направление своего развития (мотивация, воля), а, значит, будет иметь возможности и к его (общества) разрушению.

• оснастить это общество доступом к хранилищу уже накопленных человечеством знаний, которое по причине мутабельности будет "внешним" для этих интеллектов;

• найти компромисс между скоростью (само)обучения и скатыванием в безумие этого "общества" в целом и каждого интеллекта в частности;

• и так далее.

Как видим, большинство задач, что стоят перед нами — обычные, человеческие задачи, проблемы. А почему? А потому, что на выходе мы получаем существо по смыслу неотличимое от человека!

Полный (или сильный) искусственный интеллект обладает всеми недостатками человека и не может быть "всезнающ" или "всеведущ".

Да, эксперименты с такими субъектами дадут много интересной информации, да, возможно, на Земле появится новый вид существ с интеллектом в чём-то лучшим чем у человека (здесь сыграют роль искусственно подобранные параметры той самой скорости самообучения — евгеника среди ИИ, плюс встроенные примитивные вычислители — периферия, которой нет у человека), но качественно иного существа не случится.

Итог

Полный искусственный интеллект будет обладать всеми теми же достоинствами и недостатками, какие есть у человека. Может быть даже неотличим от человека. Ещё бы, ведь мы строим его, глядя на себя, как образец — разумеется, это будет копия. В чём-то более совершенное, где-то менее, но... копия!

_{Прямо как в библии: "по образу и подобию", ха-ха!}

И хотя инструментальный интеллект завершён как технология, хотя его массовое внедрение (количество) неизбежно приведёт к качественным изменениям общества, однако проблемы, перед которыми стоит человечество, проблемы, что могут поставить точку на его существовании, человеку придётся преодолевать самостоятельно.

Бога из машины, который придёт и решит всё за нас, не случится!

Итак, полный интеллект — интересная вещь, но к сингулярности или даже просто скачку не приведёт. А инструментальный ИИ уже создан. Качественное развитие завершено, впереди исключительно экстенсив. Пользу, которую он принесёт, уже можно и нужно оценивать.

Если централизованная стратегия развития человечества и будет сформулирована, то именно при помощи инструмента, а не субъекта. Субъектом в этом действии будет человек ибо больше некому!

Закончу цитатой из известного всем литературного персонажа — профессора Преображенского:

Но на какого дьявола? — спрашивается. Объясните мне, пожалуйста, зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно. Ведь родила же в Холмогорах мадам Ломоносова этого своего знаменитого...

Список литературы

1. Википедия: Искусственный интеллект

2. Википедия: Слабый и сильный ИИ

3. Википедия: Машинное обучение

4. Википедия: Глубокое обучение

5. Википедия: Теория разума

6. Википедия: Эволюция

7. Википедия: Сингулярность

8. Википедия: Разделение труда

Дополнительно

1. ИИ как новая ступень эволюции? — анализ возможного влияния ИИ на человечество.

2. Как искусственный интеллект становится религией — восприятие ИИ как объекта поклонения.

3. Харари предупреждает о рисках ИИ — перспективы и угрозы развития ИИ.

4. ИИ: эволюция или угроза человечеству? — обсуждение возможных сценариев развития.

5. Концепция «Войны Артилектов» — потенциальный конфликт вокруг суперразвитого ИИ.

6. Применение ИИ: цифровое бессмертие — влияние ИИ на сознание и память.