Машина Гёделя — Юрген Шмидхубер / ПостНаука

Профессор Юрген Шмидхубер — о том, как программа совершенствует саму себя

Самоулучшающийся сверхразум спровоцирует взрыв интеллекта — эту идею высказал математик Ирвинг Гуд в 1956 году. Сегодня ее воплощает машина Гёделя — универсальный решатель задач, который сам улучшает свой код. О совершенных искусственных нейросетях и механизмах глубокого обучения рассказывает пионер в исследованиях искусственного интеллекта Юрген Шмидхубер.

Эта лекция — часть курса «Глубокое обучение». Партнер проекта — организатор технологического конкурса UpGreat ПРО//ЧТЕНИЕ.

Идея о машине Гёделя была вдохновлена автореферентными формулами Курта Гёделя. Возможно, вы знаете, что в 1931 году Гёдель стал основателем теории Computer Science: он ввел первый универсальный язык кодирования, основанный на натуральных и на целых числах. Этот язык кодирования позволяет с помощью чисел формализовать операции любой формальной системы аксиом или любого цифрового компьютера в аксиоматической форме: по сути все данные закодированы в виде целых чисел.

Гёдель использовал этот язык как для представления данных (в его случае — аксиом и теорем), так и для программ, которые используют эти данные. Такой программой может быть последовательность инструкций по доказательству теорем, управляющих данными. 

Затем он сформулировал формальные суждения о вычислении других формальных суждений, то есть одно утверждение описывает последовательность действий, в результате которых формируются новые суждения. Он даже ввел свои знаменитые автореферентные суждения, которые предполагают, что они недоказуемы любым компьютерным доказателем теорем. Так он выявил фундаментальные ограничения математики, возможностей доказательства теорем и компьютерных вычислений, а следовательно, и искусственного интеллекта.

Итак, Гёдель тогда описал базовые ограничения ИИ. Его работа оказала огромное влияние на науку и философию XX века. Кроме того, большая часть разработок ИИ начиная с 1940-х годов (работы Конрада Цузе и других исследователей) по 1970-е годы была связана с доказательством теорем и дедукцией в стиле Гёделя при помощи экспертных систем и логического программирования.

Машина Гёделя — это компьютер, который переписывает любую часть своего кода, как только находит доказательства того, что такие изменения полезны, где зависящая от задачи функция выгоды, а также свойства аппаратного оборудования и весь исходный код описаны аксиомами, закодированными в искатель доказательств — ПО, которое также является частью исходного кода машины Гёделя: искатель доказательств тоже может быть переписан.

Как же работает искатель доказательств? Он системно и эффективно тестирует исчислимые средства доказательства. Средство доказательства — это программа с одобренным результатом. Она начинает с заданных аксиом, генерирует леммы и новые теоремы до тех пор, пока не получит теорему, которую хочет доказать. Машина Гёделя генерирует такие теоремы до тех пор, пока не находит ту, что гласит: предложенные мной изменения действительно полезны, поскольку после их внесения ты будешь получать больше вознаграждений в единицу времени, чем раньше.

Итак, исходное ПО, включающее в себя искатель доказательств, продолжает поиск теорем, пока не находит доказуемо полезные машиночитаемые изменения для своего кода. Я смог показать, что такое изменение должно быть общеоптимальным, то есть нет точки локального максимума функции, так как сперва код должен доказать, что бесполезно продолжать поиск альтернативных — возможно, лучших — вариантов исправления.

Доказательство предполагает, что нет альтернативных вариантов исправления, которые могут быть лучше предлагаемого.

В отличие от ранее известных неавтореферентных методов, основанных на аппаратных искателях доказательств, машина Гёделя может не только похвастаться оптимальным порядком сложности, но и оптимальным образом снизить число любых тормозящих ее работу событий, скрытых в стандартных асимптотических обозначениях оптимальности, обозначении O (), при условии, что польза такого ускорения доказуема в принципе.

Вы можете спросить: а имеет ли смысл формализованный поиск доказательств с учетом того, что наш мир изменчив и непредсказуем? Ответ: да. Нам всего лишь нужно добавить в исходный код машины Гёделя с искателем доказательств стандартные аксиомы для репрезентации непредсказуемости и для работы с вероятностными событиями в нестабильном мире.

Собственно, исходный код машины Гёделя как раз решает этот вопрос через ожидание вознаграждения: вам нужно максимизировать ожидаемое в будущем вознаграждение при ограниченной продолжительности жизни. Это целевая функция, и это изначальная функция выгоды, а так как выгоду можно определить как ожидаемое значение с использованием аксиом и прочих элементов, необходимых для ее описания, то все в порядке.

Исследователи машинного обучения также регулярно доказывают теоремы об ожидаемом вознаграждении в стохастическом мире, и машина, снабженная универсальным доказателем теорем вроде машины Гёделя и соответствующими аксиомами, может делать то же самое. 

Таким образом, машина Гёделя является искателем доказательств, который пытается найти целевую теорему, согласно которой фрагмент кода, который будет изменен в машине Гёделя (включая сам искатель доказательств), достаточно хорош. Эта целевая теорема, по-видимому, будет относиться только к первому изменению, в результате которого может быть полностью переписана оригинальная подпрограмма поиска доказательств машины Гёделя. 

Но теперь возникает вопрос: не отменяет ли это наше доказательство теоремы общей оптимальности? Почему более поздние изменения не могут оказаться разрушительными? Однако эта проблема полностью решена. Доказательство моей теоремы общей оптимальности показывает, что первое изменение будет реализовано только в том случае, если оно будет доказуемо полезно с точки зрения имеющейся функции выгоды, если предлагаемые изменения доказуемо полезны для всех будущих изменений, которые могут быть реализованы в результате последующей работы машины Гёделя, и эти будущие изменения, разумеется, подвержены влиянию текущих, готовящих почву для будущих изменений. Но все в порядке, этот вопрос решен. Собственно, в этом и есть основной смысл всей автореферентной структуры. 

Машина Гёделя реализует метаобучение: она учится, как следует учиться наиболее оптимальным с точки зрения математики образом. Но что насчет мета-мета-, мета-мета-мета- и мета-мета-мета-метауровней?

Самое прекрасное, что все эти метауровни автоматически сворачиваются в один-единственный, поскольку любое доказательство целевой теоремы автоматически доказывает, что соответствующие изменения являются полезной основой для всех дальнейших изменений, затронутых текущим. Все эти проблемы снимаются через рекурсию.

Превосходят ли вычислительные мощности машины Гёделя традиционные компьютеры, например машину Тьюринга? Нет, конечно нет. Любой традиционный компьютер (машина Тьюринга, машина Поста или любая другая — в разумных пределах) может превратиться в автореферентную машину Гёделя, если просто загрузить в нее определенное машиннозависимое ПО — автореферентное, которое потенциально может изменять само себя. 

Однако машина Гёделя не может преодолеть фундаментальные ограничения математики и доказательства теорем, на которые впервые указал сам Курт Гёдель в 1931 году. 

Источник: postnauka.ru

Комментарии: