О ТЕХНОЛОГИЧЕСКОЙ СИНГУЛЯРНОСТИ

В чём суть технологической сингулярности?

Технологическая сингулярность — это момент времени, когда мощность компьютерных программ превысит вычислительную мощность человеческого мозга. Этот термин изобрёл математик и научный фантаст Вернон Виндж в 1983 году. По словам писателя, люди сотворят более могущественный интеллект, чем их собственный. А когда это произойдёт, человечество достигнет сингулярности, и его дальнейшая судьба станет непредсказуемой.

Теорию технологической сингулярности популяризовал футуролог Рэймонд Курцвейл. По его предсказанию, сингулярность наступит в 2045 году, когда мощность компьютера и человеческого мозга сравняются по закону Мура. Курцвейл считает, что искусственный интеллект дойдёт до создания себе подобных, а ещё будет способен на самомодификацию. Однако даже Курцвейлу остаётся гадать, каким будет искусственный интеллект в 2045 году. Например, сможет ли он выполнять за минуту то, на что человеку требуются годы или нет.

Чем опасна сингулярность?

Искусственный интеллект уже сейчас находится на высоком уровне развития. Например, в мае 2017 года программа AlphaGo от компании DeepMind обыграла в го Кэ Цзе, сильнейшего игрока в мире. В 2016 году она одержала победу над другим известным игроком в го, Ли Седолем. Ранее считалось, что компьютер не сможет играть в го наравне с профессионалом, потому что в игре нужно хорошее абстрактное мышление, а перебрать все возможные варианты исхода игры невозможно.

В 2015 году искусственный интеллект ConceptNet догнал четырёхлетних детей в IQ-тесте. Программа показала средние результаты для детей этого возраста.

А теперь представьте, насколько опасным может быть искусственный интеллект, способный на самомодификацию. Вдруг он станет настолько развитым, что человек не сможет его контролировать? Такие опасения, например, высказывал Илон Маск, предрекая восстание искусственного интеллекта.

Чего мы боимся?

Основные опасности, которые может принести технологическая сингулярность, связывают с потерей контроля человека над искусственным интеллектом.

Апокалипсис, в ходе которого искусственный интеллект восстанет против человека, и начнётся война.

Порабощение человечества. Искусственный интеллект станет настолько развитым, что поработит людей с помощью насилия или даже таким образом, что люди этого никогда не поймут...

Обвал экономики. Машин станет больше, они подешевеют и смогут заменить труд человека. Таким образом, люди станут безработными, и это приведёт к глобальному кризису в экономике.

Искусственный интеллект как оружие в плохих руках.

«Меня беспокоят две вещи. Прежде всего, человечество слабеет: всё больше знаний мы получаем с помощью компьютеров, поэтому у людей нет желания исследовать что-то самостоятельно. Кроме того, я боюсь, что люди потеряют контроль над искусственным интеллектом или начнут намеренно использовать его в корыстных целях.» – Стюарт Рассел, профессор информатики, Калифорнийский университет в Беркли.

Критика сингулярности.

Несмотря на предсказания Курцвейла, бояться апокалипсиса и порабощения человечества искусственным интеллектом пока рано. Об этом пишет Пол Аллен, соучредитель Майкрософта.

По его словам, сингулярность может наступить лишь тогда, когда человеческий мозг до конца исследуют. Если искусственный интеллект создадут по его образцу, у машины появится сознание, и она будет думать, как человек. Но для этого нужно понимать, как мозг реагирует и меняется, как взаимодействия нейронов влияют на сознание человека. Сейчас модели человеческого мозга воспроизводят малую долю его реакций, а когда ждать открытий от учёных — неизвестно.

Философ Колин Мак Гинн утверждает, что в теории сингулярности Курцвейл упростил когнитивные процессы в человеческом мозге до распознавания образов, которому обучают нейросети. При этом футуролог не учитывает, что образы стимулируют мозговую деятельность, но не заменяют её.

Итак, если верить Курцвейлу, вычислительная мощность машины догонит человеческий мозг уже в 2045 году. Но пока его теория не доказана, восстания нейросетей и роботов бояться не стоит.

* * * * * * * * * *

Бифуркация. Технологическая сингулярность.

Бифуркация – приобретение нового качества в движениях динамической системы при малом изменении её параметров.

Поведение компьютера или наблюдателя часто прямо подходит под определение бифуркации, потому что изменение всего одной ячейки памяти в компьютере или появление всего одной новой мысли у наблюдателя может привести к резкой смене их поведения.

Развитие человека проходит через ряд кризисов, которые так же могут выступать в качестве точек бифуркации в развитии мироощущения и мировоззрения человека как целостной личности.

Земной Цивилизации впервые предстоит пройти через точку бифуркации к середине 21 века.

Хотя приближающийся системный кризис имеет многие черты, характерные и для прежних цивилизационных кризисов, есть основания полагать, что переживаемые сейчас события совершенно уникальны, и являются закономерным итогом всей эволюции жизни на Земле, по своей драматичности сопоставимы с возникновением жизни около 4 млрд лет назад.

Численный анализ (экстраполяция последовательности фазовых переходов) показывает, что ожидаемая точка сингулярности лежит в ближайшем будущем.

Поэтому приближающийся эволюционный кризис, по всей видимости, не обычный эволюционный кризис, каких было много в истории планетарной системы, это кризис всего четырехмиллиардолетнего эволюционного пути. Можно сказать, что это кризис самого кризисного характера предшествующей эволюции, кризис кризисов.

Если поискать соответствие между задачами, которые придётся решать в точке бифуркации Земной Цивилизации и кризисами в жизни отдельного человека, то человечеству придётся решать задачи от сценария отношения к жизни (роды), до ответов на вопросы «кто я есть?» и «куда я иду?» (30 - 40 лет).

Прохождение сингулярной точки может быть менее кровавым, если произойдёт резкий подъём духовных качеств основного субстрата духа. Человек не смог духовно вырасти за тысячи лет, поэтому от него трудно ожидать, что он духовно вырастет за одно-два оставшихся поколения до сингулярной точки. Поэтому необходимо работать над усовершенствованием человека в духе трансгуманизма, создавать новый субстрат духа и работать над созданием искусственного разума с феноменом сознания.

* * * * * * * * * *

В ожидании презентации Илона Маска о прогрессе его компании Neuralink, работающей над созданием девайса соединяющего человека с машиной, хотелось бы порассуждать о технологической сингулярности, к которой собственно такой симбиоз может привести.

Технологическая сингулярность — это момент, когда роботы достигают уровня интеллекта, который превосходит текущий уровень человеческого разума и его способности прогнозировать результаты безудержного технологического роста. Как следствие, последуют радикальные экономические, культурные и политические изменения в человеческой цивилизации.

И хотя сингулярность по-прежнему является предметом многих голливудских фильмов и художественных произведений, возможность подлинного приближения этого гипотетического момента выглядит всё более и более вероятной.

Благодаря технологическому ускорению и накоплению исторического времени, желание выйти за рамки биологии приближает человечество к кульминационной точке – сингулярности.

Ускорение исторического времени, то есть концентрация социальных событий, сопровождаемых человечеством в единице времени – важный фактор в концепции сингулярности.

Сингулярность действительно где-то рядом, более того, её гипотетическая дата реальна для расчётов учёных и такие данные были представлены общественности.

После проведения расчётов учёные утверждают, что легко нашли отправную точку «техносингулярности».

Это произойдёт примерно в середине 21 века, что совпадает с прогнозами известного футуролога Рэя Курцвейла, который, основываясь на динамике экспоненциального развития компьютерных технологий, предсказывает, что:

1) К 2029 году машина пройдёт тест Тьюринга.

2) К 2034 году будет создан Искусственный Интеллект.

3) К 2040-м годам небиологический разум будет сильнее биологического.

4) К концу 2040 года Земля превратится в разумный «компьютер», а точнее – в сетевое разумное существо.

5) В конце века этот компьютер начнёт осваивать Вселенную своими силами.

Можно предположить, что такой разум вполне может открыть физические законы и способы манипулирования ими недоступные нашему пониманию.

Но как технически будет оформлен момент перехода к сингулярности, как будет выглядеть будущее?

Вполне возможно, что ключевое решение будет найдено не в области нанотехнологий или операций в области химии и физики или биохимии, а в области оцифровки, то есть копирования человека.

Основная работа будет проводиться не с телом человека, а с информацией, которая технологически доступна уже сегодня и многие эксперименты проводятся без особого внимания общественности и сегодня.

Это первый шаг.

Следующий шаг – трансформация человеческого тела, которая будет необходима в рамках компульсивной эволюции и реализации сингулярности в рамках экономики, политики и культуры, но для подготовки этого момента сначала должен быть решён вопрос о копировании человека в среду, где все знания будут доступны мгновенно.

Следовательно, возможный переход к сингулярности, скорее всего, будет подготовлен киберорганикой и гаджетизацией нервов человека. Вероятно речь пойдёт о неком синтезе личности человека и машины, при котором человек переместится в сетевое окружение, сохраняя при этом уникальную идентичность и обретая не только весь доступный универсальный разум человечества, но и возможность мгновенно генерировать любые новые знания.

Судя по всему, разработки в области гаджетизации тела, с одной стороны и работы в области Искусственного Интеллекта с другой, так или иначе приведут к тому моменту сингулярности, когда можно будет совместить личность с ИИ.

Это может выглядеть как синтез человека и андроида.

Искусственным Интеллектом активно занимаются корпорации и стартапы, в том числе Google, IBM и другие.

Результаты этой работы реальны, в качестве одного из примеров был создан робот, который выглядит как человек и может поддерживать разговор, читать эмоции или по крайней мере пытаться это сделать, а также выполнять различные типы решаемых задач.

Однако сторонники сингулярности без всякой причины пытаются провести параллель с эволюцией видов и технологий.

Они считают, что постоянное увеличение мощности компьютеров в конечном итоге даст ИИ, который превзойдёт человеческий разум.

Но обычные вычислительные устройства – это совсем не человеческий разум.

В нашем мозгу около 100 миллиардов нейронов. Не только их количество, но прежде всего их структура и принцип взаимодействия дают нам возможность думать и действовать.

Всё, что мы можем сделать — это создать определённые типы алгоритмов для достижения определённых целей и решения проблем.

На самом деле все эти системы очень ограничены в своих возможностях.

Ещё один возможный вывод состоит в том, что сингулярность – это новая «религия», а не наука, которая будет применяться в историческом развитии человечества.

Можно сказать, что технология не плохая и не хорошая, это просто инструмент и этот инструмент становится плохим или хорошим только в тех руках, которые его держат, которые его контролируют. Но технология может вырваться из наших рук и единственное, что можно сказать с уверенностью, так это то, что мы не можем предсказать последствия такого исхода событий. И мы помним, что исходя из истории цивилизации, государственные органы всегда используют религию в качестве инструмента контроля, который, в свою очередь, использует множество разнообразных инструментов манипулирования, влияния и реакции.

Если конечно сингулярность станет «религией».

Что нужно сделать сегодня, так это подумать о способах развития технологий ИИ.

В идеале, слияние человека с ИИ принесёт людям пользу и улучшит качество их жизни.

Люди перенесут своё сознание в облако и смогут «разгрузить» мозги.

По словам Рэя Курцвейла, это приведёт к увеличению неокортекса – новых областей коры головного мозга человека, отвечающих за сенсорное восприятие, сознательное мышление, речь, способность творить искусство и чувство юмора. Курцвейл оптимистичен – он уверен, что будущее за слиянием человека с Искусственным Интеллектом. Люди перестанут мыслить линейно и это приведёт к небывалому прогрессу.

Это одна сторона медали. А как насчёт другой стороны?

После создания сверхчеловеческого интеллекта, человеческая эпоха может завершиться в той форме, к которой мы привыкли и которая зафиксирована в нашей исторической памяти.

Итак, примем за рабочую гипотезу, что возможности компьютеров в ближайшем будущем превзойдут человеческие. На этом уровне не имеет значения, думают ли они «на самом деле», потому что результаты их работы будут такими же, как если бы они думали быстрее и глубже, чем люди.

Первое следствие – мы не сможем полностью понять или предсказать дальнейшее развитие событий, когда во главе цивилизации встанут не только люди, но и сверхразум.

В этом смысл термина «сингулярность» – все привычные модели и представления теряют свою применимость и начинается нечто принципиально иное.

Обычно, во многих описываемых в литературе сценариях, за пределами технологической сингулярности человечество ждёт чего-то бесчеловечного, пост-сингулярного и остаётся неясно, сможем ли мы предотвратить это нечто, пугающее наше будущее?

Однако главной особенностью постсингулярной культуры должен стать переход от приоритета последовательно меняющихся художественных стилей к параллельному, одновременному существованию всевозможного разнообразия культурных форм, к свободе индивидуального творчества и индивидуального потребления продуктов этого творчества.

Завершение смены стилей и направлений не означает остановки эволюции культуры, просто после прохождения точки сингулярности нововведение в формах проявится не последовательно, а в едином потоке, не вытесняя и не заменяя друг друга.

Предсказать конкретные формы, в которых сингулярность будет реализована - нереально, но как это будет выглядеть с точки зрения человеческого понимания?

Вот что говорит об этом ещё один известный писатель-фантаст Вернон Виндж:

1) Практическое субъективное бессмертие.

2) Возможность быть во всех местах, где размещена Сеть.

3) Огромное количество задач и проблем для исследования и решения – всё увлекательно, на всё хватает времени и возможностей.

4) При необходимости всегда можно доделать себя как программно, так и функционально.

Как показывает история, человечество не может найти общего универсального оправдания своего существования.

Достижения отдельных цивилизаций, культур, личностей, религий и философий не сходятся друг с другом и не способны убедить сомневающихся в смысле своего существования. Следовательно, возможно одна из скрытых целей нашего периода существования — это достичь техносингулярности и признать её диктатуру над человеческой цивилизацией.

Источник: vk.com

Комментарии: