Ликбез I

Ликбез I. Технологическая Сингулярность.

Представляем вашему вниманию завершающий пост первого ликбеза.

Параграф 04. Пути в сверхразумность

В предыдущем параграфе мы увидели, что Технологическая Сингулярность, строго говоря, наступит в любом случае. Либо из-за исчерпания познавательных способностей человечества, либо из-за их принципиального апгрейда.

Сложнее вопрос о времени наступления. Пределы человеческого разума известны недостаточно, равно трудно сделать обоснованный прогноз о создании сверхинтеллекта.

Вообще, вопрос о критериях сверхинтеллектуальности весьма сложен и неоднозначен. Существующих методик для его выявления явно недостаточно. Применение человеческих методик измерения интеллекта, типа IQ-тестов, едва ли возможно, не говоря уж о том, что остаются вопросы к самой IQ-методике. Сравнение напрямую через "вычислительную мощность" мозга и искусственных интеллектуальных систем тоже под вопросом: во-первых, затруднительно подсчитать производительность человеческого мозга из-за принципиально иной "архитектуры" и принципов работы по сравнению с современными компами; во-вторых, зачастую интеллектуальность систем зависит не от брутфорсовой производительности, а от совершенства алгоритмов информационной обработки.

Для выявления хардверно-софтверных "интеллектуалов" издревле использовался т.н. тест Тьюринга, предложенный британским математиком Аланом Тьюрингом в середине XX века. Тест заключался в том, чтобы фокус-группа "эталонных человеков" общалась с программой. Не ведая, с кем говорит. Если бы после "свидания вслепую" люди утверждали бы, что говорили с человеком, программу следовало бы признать равной человеку по интеллекту. Однако за время, прошедшее с создания теста, его успешно прошли несколько заведомо неразумных программ, построенных по принципам чат-ботов. Человека очень просто обмануть в весьма широком спектре ситуаций.

Думается, проблема требует более вдумчивого изучения и принципов восприятия и обработки информации человеком, и методов поиска соответствия человеческим возможностям у кандидатов в сверхинтеллекты в разных сферах разумной деятельности

Чем же могут быть эти кандидаты? Куда нужно в первую очередь смотреть, чтобы распознать приближающуюся Сингулярность?

Вернор Виндж в статье 1993 года предложил четыре вида потенциально сверхинтеллектуальных систем:

1. Искусственный интеллект.

Достаточно сложная, скорее всего, самообучающаяся программа,, инсталлированная на достаточно мощном "железе", с доступом к достаточно широким информационным потокам для получения информации о внешнем мире.

2. Системы человек-машина, объединённые интерфейсом.

В принципе, речь о киборгизации. Правда, не обязательно о хрестоматийной киберпанковой, где обычные человеки напичканы "умными железяками". Усилитель интеллекта (УИ) запросто может быть и неинвазивным. Выглядеть может тоже совсем не футуристично. Для примера Виндж приводит очевидную ситуацию: даже сегодня образованный интеллектуал (профессор ВУЗа, научный работник) с хорошим компом и доступом в инет, скорее всего, справится с любым интеллектуальным тестом быстрее и лучше любого обычного испытуемого.

3. Сетевые системы с обычными пользователями-людьми.

И вновь говорится не обязательно про футуристический коллективный разум. Просто информация, поступающая в сеть онлайн от множества пользователей, должным образом обработанная распределёнными алгоритмами, реализующимися на сетевых компьютерах, способна организовать очень сложную и интеллектуальную обработку внешних данных. Может быть, наша группа Вконтактике, или некоторые сетевые форумы уже немного разумны.

4. Генетически апгрейженные люди.

Старый евгенически-ГМОшный сценарий создания супермэна.

В чём, по Винджу, сомнений нет, так это в том, что если мы способны создать сверхразум, то создадим. Выгода от подобного изобретения заставит правительства и корпорации отбросить любые запреты законодательств в гонке за Превосходством. Если же создать разум, превосходящий нас, способны мы, с чего бы сомневаться, что последует примеру и новосозданный сверхразум? Тогда ступени разумности будут надстраивать сами себя к вершинам топософического пространства, о котором поведал Лемовский ГОЛЕМ XIV.

Только никто не гарантирует, что мы заметим появление сверхразума вовремя. Предполагается, что участие подобного существа в научно-техническом прогрессе изменит показатель экспоненты и ускорит производство новых знаний настолько, что наше понимание перестанет успевать за инновациями. Технологии будут возникать из ниоткуда, причинно-следственные цепочки между ними мы проследить не сможем. Не говоря о том, чтобы предсказать следующий шаг.

Важно, правда, что мгновенным их производство сие обстоятельство не сделает: "Вертикальный прогресс" (из романа "Волны гасят ветер" братьев Стругацких), который тоже иногда наивно изображают на условных "графиках Сингулярности", не более, чем фигура речи. Однако прогресс вполне может превратиться в последовательность сменяющих друг друга всё более "быстрых" экспонент.

Вот только заметим ли мы эпохальный рост знаний человечества? Многие из нас уже теперь перманентно не в курсе содержания и важнейших проблем науки и техники. И, может быть, шутка из "Ложной слепоты" Питера Уоттса о докладе Института Сингулярности второй половины XXI века на тему "Наступила ли уже Сингулярность?" вовсе не очень-то и шутка.

Параграф 01. Сингулярность, которую придумал Виндж! (https://vk.com/wall-2344381_12642)

Параграф 02. "Умная" экспонента (https://vk.com/wall-2344381_12653)

Параграф 03. Охота за Сингулярностью (https://vk.com/wall-2344381_12742)

Источник: vk.com

Комментарии: