Вводный диалог по индукции Соломонова

Представьте, что существует невероятно мощный суперкомпьютер. Настолько мощный, что он может просчитать все варианты ходов и позиций на шахматной доске и по сути целиком "решить" эту игру, зная оптимальный ход в любой ситуации.

Напомню: шахматных позиций больше, чем атомов во Вселенной. ИИ давно уже обыгрывает гроссмейстеров, но ни одна шахматная программа пока не может в начале игры предвидеть финальную позицию.

А что, если взять не шахматы, а жизнь, и попробовать просчитать и "решить" её? По сути жизнь тоже состоит из своего рода "ходов" и "комбинаций", которые проявляются во всевозможных перемещениях атомов по Вселенной. Все эти ходы и комбинации — всю информацию, все события, даже мысли можно при большом желании перевести в двоичный код и записать.

Я только что закончил читать один из умнейших и сложнейших мастридов за долгое время — большой текст Элиезера Юдковского про теорию индуктивного вывода Соломонова. Согласно этой теории, если у человечества будет неограниченные вычислительные ресурсы и правильно написанная программа, мы сможем предсказывать вероятности наступления любых событий (всё это основано на бритве Оккама и теореме Байеса). Это был бы самый настоящий искусственный интеллект.

Понятно, что на практике такие вычислительные мощности недостижимы, но нам вряд ли понадобится просчитывать положение каждого атома во Вселенной, чтобы в общих чертах прогнозировать будущее и принимать верные решения. Возможно, в будущем мы сможем использовать идеи Соломонова (и Юдковского) при разработке ИИ, который не будет сверхсильным, но будет существенно превосходить возможности всего человечества.

Если у вас хороший английский и сильный математический аппарат, обязательно прочтите мастрид про соломоновскую индукцию: lesswrong.com/posts/EL4HNa92Z95FKL9R2/a-semitechnical-introductory-dialogue-on-solomonoff-1. Текст написан в формате диалога двух воображаемых учёных: энтузиаста и скептика.

Я сам понял не все этапы рассуждения (в тексте много математических формул, кода и достаточно сложных концепций), обязательно буду перечитывать текст.

PS. Раньше я периодически пользовался таким мысленным экспериментом для принятия важных решений: как бы на моём месте поступил Илон Маск? Бенджамин Франклин? Элиезер Юдковский? Или идеальный сферический рационалист в кубе? Теперь в обойму моих мысленных экспериментов добавился ещё один: как бы поступил на моём месте идеальный "соломоновский" ИИ? Берите на вооружение!

Источник: lesswrong.com

Комментарии: