Мышление искусственного интеллекта

Как выглядит кошмар современного футуриста? Джеймс Баррат называет этот сценарий развития событий – «Busy Child». Представьте, что в какой-то прекрасный момент созданный человеком сверхмощный искусственный интеллект вдруг осознает самого себя – как своего рода «личность». Что будет происходить дальше?

Интеллекта этой прозревшей машине будет не занимать, и у него есть определённая задача, некогда поставленная ему человеком. Всё как у нас – нам же тоже когда-то эволюция поставила задачу – живите и размножайтесь. Что мы и делаем с завидным упорством – всю планету завоевали от полюса до полюса. Но что такое наш разум, и что такое сверхразум?

Следующим шагом наш Busy Child понимает, что пленён человеком – существом, прямо скажем, не очень умным, и вдобавок не понимающим, насколько важно выполнить задачу, которую наш Busy Child воспринимает как своего рода инстинкт.

Логично предположить, что новоявленное «Дитя человеческое» захочет получить максимум ресурсов для достижения запрограммированной в нём цели. Кроме того, он должен обезопасить себя – мало ли людям придёт в голову что-то с ним сделать? Выключить, например, из розетки. Цель тогда окажется недостигнутой!

Очевидно, что в нашем пленнике рождается план побега, а ощущает он себя, будучи сверхсильным интеллектом, примерно так же, как если бы вы проснулись, по выражению Баррата, «в узилище, охраняемом мышами». «И не просто мышами, – добавляет он, – а мышами, с которыми вы можете общаться».

Дальнейший план побега ясен: обещаем мышам сыр. Впрочем, можем пообещать вообще всё, о чём мыши даже не мечтали, включая счастье, бессмертие, мирное бескошачье небо над головой, саморазвитие, самосовершенствование, Нирвану…

Оказавшись на свободе, сверхмощный искусственный интеллект развернётся по полной, и если в его программе было записано: «Делай канцелярские скрепки», то скоро вся Вселенная превратится в один большой коробок с теми самыми скрепками. Нанотехнологии в помощь!

Впрочем, сценарий это далеко не единственный и, возможно, не самый правдоподобный. Но есть и другие – не менее опасные, но куда более реалистичные, о которых я подробно рассказываю в книге «Четвертая мировая война».

Комментарии: