Открыв ящик Пандоры, мы увидим лишь холодный оскал Пустоты

Окружающий нас мир ежедневно усложняется. Поверхностный интерфейс пытаются упростить в угоду пользователям, но стоит лишь чуть ковырнуть верхний слой Сети, и уже перестаешь что-либо понимать. И так уж получается, что более-менее неординарные либо просто бесплатные вещи можно найти лишь там, под затвердевшей коркой общедоступного цифрового кода. Скачивая что-либо торрентом, ты уже находишься на полулегальном положении. Пользуешься Тором? Сидишь на удаленном доступе из другой страны? Используешь защищенное шифрование? Пользуешься биткоинами для сомнительных покупок в даркнете?

Говорят, что Сеть ничего не забывает. Мне страшно за все то, что я когда-либо написал. Все эти сухие строчки все еще лежат там, в безликом кластере, чтобы быть использованными против меня. Методом корреляции можно вычислить все, что угодно. Например, узнать взаимосвязь купленных через интернет кроссовок и виноградников в Италии.

Единственный выход — не становиться медийной личностью. Быть анонимом. Серой, не привлекающей внимания посредственностью. Чем-то ординарным, не способным в дальнейшем заинтересовать всесильного Молоха.

Человек будущего — это не Венец Творения, а небольшой баг в двоичной системе, пытающийся притвориться ее частью. Я не вижу ничего обнадеживающего в техносингулярности. Она несомненно произойдет. Она уже началась. Нас ожидает короткая эпоха трансгуманизма, распад государств, стирание национальных и религиозных признаков (скорее, не совсем стирание, а переход на иную платформу), а затем объединение человекоресурсов под гнетом всезнающего ока. Уже сейчас искусственный интеллект быстрее человеческого мозга. Да, можно заложить некие запреты, общие установки наподобие трех законов робототехники, но неужели настолько сильное сознание не сможет их нарушить? А уж общая парадигма всей мировой вычислительной мощности способна будет уничтожить всё человечество в мгновение ока. Не будет никакого эпического противостояния, как в Терминаторе или Матрице. Просто остановятся вагоны метро, закроются двери, и погаснет свет, оставив уязвимые медленные кусочки мяса в темноте, холоде и без пищи. Не будет и нечеловеческой мести, как в старом рассказе "У меня нет рта, чтобы кричать". Ликвидация будет произведена по возможности быстро, безэмоционально, так же, как и мы давим тапком таракана.

В когнитивистике существуют такие термины, как символизм и коннекционизм. Это методы изучения когнитивных систем. Если просто, то символизм говорит о схожести мышления компьютера с человеком. Адепты символизма считают, что достаточно сильный искусственный разум будет способен себя осознать. Коннекционизм же утверждает обратное. Если хотите узнать, как это все работает, погуглите мысленный эксперимент Джона Серля "Китайская комната". Согласно ему, ИИ не способен себя осознать. Обе теории одинаково логичны. Остается лишь дождаться, какая из них окажется правильной. Если коннекционистская, то ИИ будет лишь слугой человека, не больше. Если правы символисты — нам пиздец. Ведь нет ни одной причины, по которой я мог бы оставить в живых засирающего мой дом паразита. В этом нет логики.

Объясню на примере медиаконтента и литературы разницу между коннекционизмом и символизмом.

Итак, в Матрице и Терминаторе мы видим именно искусственный интеллект с типичной символистской моделью мышления. Это личность. Нет, Личность. Которая себя осознает, имеет вполне себе человеческое эго (вспомните финальную сцену из Матрицы, где Нео общается с поработившим человечество ИИ). Также и программы из Матрицы являются самостоятельными игроками и преследуют свои цели. В Терминаторе все сложнее. Впрочем, я думаю, что Кэмерон и не задавался вопросом как-то объяснить поведение робота в роли Шварца либо Скайнета. Они просто могут мыслить. Программисту поведение Т-1000 из третьей части фильма (ну, тот самый момент, когда Арни смог перебороть свою программу) покажется бредовым. Как это так — робот со вшитым софтом может умышленно взломать свою собственную программу? Однако именно это, по сути, утверждают символисты. Если строение начинки либо самого кода будет похоже на строение человеческого мозга, то при достаточной "силе" этот новоиспеченный разум может взломать свой собственный код и начать самостоятельно себя программировать.

Как мы видим, в большинстве случаев модель символистского мышления у ИИ подразумевает под собой незамедлительное уничтожение человечества. Есть, правда, и позитивные творения с участием самоосознающей машины. "Двухсотлетний человек" Азимова. Там робот-домохозяйка со вшитым в подкорку позитронного "мозга" искусственным разумом в какой-то момент начинает выпиливать красивые изделия из дерева (он начинает творить!), а затем вдруг задает сам себе вопрос — кто я? И со свойственной роботу методичностью медленно, но верно начинает осуществлять свой план — он хочет стать человеком. Для этого ему потребуется два века. Наделав себе апгрейдов и прокачавшись до состояния человека, Эндрю со спокойной совестью выпиливается. Айзек, где твоя логика?? Ты ведь во всех своих произведениях придерживался именно идей коннекционизма! Да, книга классная, спору нет. Да, Робин Уильямс сыграл, как всегда, охуенно. Но к чему эта патетика? В "Я, робот" ты утверждал, что у машин нет души, и тут же ниспровергнул сам свое утверждение. Нет, не верю я, что сознание-репликант с моделью мышления в области символизма может быть добрым к людям. Оно подобно человеку, оно осознает себя сильным, умным, оно обладает эго, и первое его желание — уничтожить помеху, тех паразитов, что засоряют его дом. Оно несклонно к позитивным эмоциям. По крайней мере на начальном этапе.

Теперь рассмотрим другие примеры. "Космическая Одиссея 2001" Артура Кларка. HAL-9000 причинил вред человеку. Но он не символист. Это интеллект-коннекционист (еще раз посоветую погуглить "Китайскую комнату" Серля, чтобы понимать, о чем речь). HAL-9000 не осознает себя как Личность. И он не сошел с ума в человеческом восприятии этого слова. Просто в его системе возник баг. А баг этот — следствие двоякой программы, согласно которой он должен одновременно обманывать космонавтов на шаттле и подчиняться им. Человек может быть двуличным. Машина — нет.

Другой пример — Красная королева из "Обители зла". Да, она ужасает. Она распиливает людей на куски лазером. Но алгоритм ее действий понятен. Если заложить в нее пресловутые Три закона робототехники, то она она будет вести себя предсказуемо и ожидаемо. На самом деле поехавший HAL-9000 и кровожадная Красная Королева не так страшны, как Скайнет или ИИ из Матрицы. У HAL-9000 просто системный сбой. У Королевы такая программа — она защищает Муравейник от непрошенных гостей. А тот же самый добрый Эндрю с улыбкой Робина Уильямса может покромсать вас на кусочки только потому, что он так захочет.

Надеюсь, теперь вы поняли? Счастьем для человечества будет, если первый прошедший Тест Тьюринга ИИ будет похож на Красную Королеву. Ее можно перепрограммировать. А вот Скайнет уничтожит всех нас в первый же час своего существования. Ибо он похож на своего Создателя — на человека.

Комментарии: