Google's Learning Software Learns to Write Learning Software

В области искусственного интеллекта лидеры отрасли разворачивают активную работу на очень важном и перспективном фронте "метаобучения" ("metalearning") – разработке алгоритмов машинного обучения, которые создают алгоритмы машинного обучения. В результате, как минимум, скорость создания искусственных нейронных сетей может повыситься, а вот прогресс в качестве пока совсем не очевиден.

Тем не менее, возможно, есть шанс, что именно здесь будет лежать путь во все более и более продвинутый искусственный интеллект, который рано или поздно догонит нас, путь, связанный с потенциально, пока только потенциально, рекурсивным самоулучшением искусственного интеллекта, т.е. с искусственными нейросетями (необязательно только нейросетями, можно просто программами машинного обучения), которые не просто программируют новую нейросеть, а создают копию себя и обучают / усложняют эту копию, после чего эта улучшенная копия опять себя копирует и улучшает и так рекурсивно до бесконечности, потенциально бесконечно "умнея".

Здесь можно привести эволюционную аналогию – если до возникновения культурной эволюции биологическая эволюция улучшала интеллект человека и наших предковых видов с помощью стандартных эволюционных механизмов (дизайнером прогресса в интеллекте был естественный отбор), то с развитием культуры интеллект человека уже сам стал рекурсивно "прокачивать" себя с опорой на культурные межпоколенно транслируемые и улучшаемые когнитивные инструменты. Маловероятно, что с появлением культуры и науки генетический базис интеллекта сильно улучшился, "дефолтная" нейрокогнитивная архитектура, "прошитая" в наш общечеловеческий генетический "биос", осталась прежней или, по некоторым данным, даже ухудшилась. Однако, с помощью культурно транслируемых и культурно от поколения к поколению все более и более "прокачиваемых" когнитивных инструментов в виде науки и образования интеллект всего человечества (=задачи, которые мы можем решать) с каждым поколением все улучшается и улучшается.

Далее, можно сказать, что с каждым следующим поколением та обобщенная самообучающаяся нейронная сеть, которая находится у нас в голове, все глубже и глубже сама себя обучает и модифицирует (через звено внешних культурно-знаковых информационных инструментов, по Выготскому, но внешний характер этих социальных когнитивных инструментов все равно в итоге "снимается" в интериоризации и изменении коннектома / когнитома каждого конкретного мозга). В нервной ткани структура и функции тесно сопряжены, в реальности мозга информацию нельзя полностью оторвать от своего носителя, и поэтому вряд ли уж совсем верно будет сказать, что с каждым следующим поколением в одну и ту же базовую нейрокогнитивную архитектуру просто "подгружается" через обучение все более и более сложная и адекватно описывающая мир научная информация – эта "загрузка" обязательно должна приводить к увеличению сложности "принимающей" нейросети, особенно у самых интеллектуально выдающихся представителей человечества, у его "локомотивов".

Это, конечно, очень приблизительная и произвольная аналогия, но, возможно, она что-то может отразить в этом процессе. Если эта аналогия верна, то уже началась самая важная в истории нашего вида гонка – или искусственный интеллект как программа в памяти компьютера в какой-то момент оторвется от нас и начнет бесконтрольно саморазвиваться ("интеллектуальный взрыв") с неопределенным для нас исходом (причем на "стратегическом забеге" избежать этого логически невозможно), или мы так научно-технически и культурно-образовательно саморазовьем наш естественный интеллект – нейросеть у нас в мозге, что он раньше ИИ "рванет" вперед и обгонит его, каким-то образом сняв ограничения по старению (вероятно, старение будет побеждено до выхода нас и ИИ на финишную прямую к интеллектуальному взрыву и немедленно наступающей после него сингулярности), по глюкозе, кислороду, количеству нейронов, размеру тела и мозга и т.д. и т.п. Эти ограничения, вероятно, надо будет снимать через нано-/ИИ-биомедицину (старение) и плавную киборгизацию-интеграцию нашего естественного мозга с экзокортексом и другими внешними небелковыми информационно-компьютерными модулями. Может быть, это все закончится опять программой в памяти компьютера, но преемственной нам, плавно-поэтапно созданной из нас, физически из нас; может быть, и совсем по другому.

В любом случае, вероятно, другого пути обеспечить дальнейшую эволюционную преемственность сущности человека как человека логически просто нет – надо самим инициировать "интеллектуальный взрыв" изнутри нашей натуральной нейросети, а не пассивно дожидаться, когда "интеллектуальный взрыв" произойдет в компьютерной программе, после чего наше будущее станет, мягко говоря, очень туманным, мы как минимум станем младшими партнерами, не понимающими мотивов и хода мысли старшего партнера, и потеряем свою свободу и субъектность. То, во что мы превратимся после "интеллектуального взрыва", запущенного нами самими изнутри себя, мы сейчас представить себе никак не можем, как первая бактерия на Земле никак не могла представить себе своего прямого и непосредственного потомка – ныне живущих нас, но это будут наши прямые потомки, наша "веточка" глобальной эволюции не прервется, чего совсем нельзя будет сказать о сверхинтеллектуальной программе, совершенно отдельно развившейся в компьютере, а не из нашего естественного мозга (даже если эта программа будет создана по лекалам нашего мозга, будет проходить тест Тьюринга и вести себя совсем как человек). Вероятно, роль психофизиологии (а через нее – и всей психологии) как науки в этом процессе обеспечения нашей сущностной преемственности с помощью плавного запуска и дальнейшего систематического усиления киборгизации / техноинтеллектуализации мозга человека будет ключевой.

Удивительной особенностью этой гонки, в которую мы, сами того не замечая, подспудно "вползаем", точнее, нас вносит туда ветер истории (причем Глобальной истории, этот сюжет является ключевым во всей Глобальной эволюции), будет являться ее сопряженный характер. Процесс победы над старением и техноускорения интеллектуальной эволюции нейросетей нашего мозга, вероятно, будет существенно параллелен процессу создания сверхинтеллектуальной программы в памяти компьютера (психофизиология и информатика будут взаимно усиливать друг друга по принципу положительной обратной связи, "Neuroscience-Inspired Artificial Intelligence" и т.д. и т.п.), оба эти процесса будут идти на изоморфных технологиях, и где раньше случится "интеллектуальный взрыв" и прорыв в сингулярность – неизвестно.

Это все, конечно, пока звучит крайне фантастично, если не сказать большего, научное сообщество крайне поляризовано относительно этого вопроса, и недоуменная реакция на эти размышления может быть совершенно нормальна, особенно для далеких от информатики людей, но думать об этом лучше начинать уже сейчас, у нас есть, по экспертным оценкам, от 50 до 150 лет, причем гораздо надежнее ориентироваться на цифру в 50 лет, слишком уж тут высоки ставки.

Источник: www.wired.com

Комментарии: