Технологическая сингулярность

Статья для интеллектуального меньшинства.
Абсолютно не рекомендована тем, кто готов по любому поводу оскорбиться

Навстречу сингулярности

Мы сольёмся с искусственным неокортексом в облаке. Мы станем
умнее. Я не считаю, что ИИ нас заменит, – он нас усилит. И это уже
происходит.

— Рэй Курцвейл

«Технологии будут систематически менять наше понимание того, что значит быть человеком, что значит быть в социуме и что значит заниматься политикой. […] Мы действительно проходим через сдвиг парадигмы.

Она замечательная всем тем, что нам даёт, но одновременно ведёт и к ненадёжности существующих структур, которые теряют свою ценность и значение. Следовательно, этот новый режим бытия требует
нового мирового порядка».

— Нишан Шах, Центр цифровой культуры Люнебургского университета

2040–2045-й годы – наша с вами, судя по всему, последняя пятилетка. После — ни мы сами, ни наш мир уже никогда не будем прежними. По Курцвейлу, мы войдём в область так называемой «технологической сингулярности».

Если совсем просто, то это значит буквально следующее: к 2045 году небиологический интеллект превзойдёт наш (то есть биологический) в миллиарды раз, станет всё быстрее и быстрее совершенствовать сам себя, достигнув в результате совершенно непредставимых с нашими интеллектуальными возможностями высот.

Математическое понятие «сингулярности» в отношении прогнозирования будущего впервые применил ещё великий Джон фон Нейман. Действительно, как ты этот прогресс ни считай, неизбежно приходишь к точке, где функция начинает вести себя настолько парадоксально, что все дальнейшие прогнозы становятся просто бессмысленными – одна сплошная абракадабра. Грань, так сказать, математического понимания.

Причём в физике ситуация аналогичная. Физическая сингулярность – это тоже расчётная точка, в которой достигаются некая бесконечная плотность и температура вещества, объём которого при этом стремится к нулю. Представить себе это абсолютно невозможно – за гранью человеческого понимания. Образно говоря, добегая до сингулярности, вселенная сворачивается в дырку и становится неразличимой – что-то вроде того…

Звучит всё это немного странно – не находите? Да. Поэтому всякий раз, когда вы слышите в определении футурологов это ласкающее слух словосочетание – «технологическая сингулярность», – не умиляйтесь его ложной красотой. Оно означает, что наше с вами будущее парадоксально, непрогнозируемо, неконтролируемо и непредставимо.

Первым, кто перевёл всё это безобразие на человеческий язык, был профессор математики и культовый писатель-фантаст Вернор Виндж. В 1993 году на симпозиуме VISION-21 Центра космических исследований NASA им. Льюиса и Аэрокосмического института Огайо он прочёл доклад «Технологическая сингулярность».

Суть его выступления сводилась к следующему: мы на грани перемен, сравнимых с появлением человека на Земле, – развитие техники неизбежно приведёт нас к созданию сверхмощного искусственного интеллекта, обладающего собственной сущностью, или, если угодно, специфическим разумом. За этим последует конец человечества, по крайней мере в том виде, в котором мы его знаем.

Самое важное, что этот сверхразумный интеллект будет полностью самопрограммироваться – то есть самостоятельно ставить себе цели и решать любые задачи.

СПРАВКА

— В 60-х годах прошлого века Хайнц фон Ферстер и Иосиф Шкловский пришли к выводу: в 2030 году нас ждёт «демографическая сингулярность», когда кривая роста населения Земли «встанет на дыбы».

— В 1993 году отечественный историк-востоковед Игорь Михайлович Дьяконов, изучая глобальные исторические процессы, ввёл понятие «исторической сингулярности».

— Впоследствии его выводы развил Сергей Петрович Капица: он показал, что когда население Земли достигнет 9 миллиардов человек, то вне зависимости от причинных факторов произойдёт неизбежный переход человечества на новый уровень его организации.

— В 1996 году австралийский учёный-эволюционист Грэм Дональд Снуке сформулировал аналогичный закон для эволюции биосферы – «эволюционной
сингулярности», которая тоже «ускоряется с ускорением».

— Наконец, с 2001 года термин «технологическая сингулярность» в общественном сознании стал ассоциироваться с именем Рэя Курцвейла.

В теоретической физике сингулярностью называют область максимального сгущения материи под действием гравитационных сил – те самые бесконечные плотность и температура вещества в минимальном объёме.

Космическая чёрная дыра, представляющая собой эту самую сингулярность, находится за горизонтом событий – то есть никакая информация не может покинуть этой области и вырывается наружу, а все известные физике законы перестают там работать.

«Технологическая сингулярность» – это состояние техники, когда она перестаёт быть нашим подручным инструментом, а мы лишаемся всякой возможности управлять ею. Она как бы берёт управление нашим и не нашим и вообще всем бытием на себя.

В каком-то смысле она сама становится своего рода новым бытием, полностью преображая собой реальность, включая, понятное дело, и нас самих.

Таким образом, слияние человека с искусственным интеллектом, о котором так часто талдычат, – это, вообще-то, вопрос частного характера, незначительный побочный эффект.

Мы сольёмся с большим и всесильным Расчётным Разумом. Но правильнее было бы говорить, что он просто поглотит нас.

«Сингулярность – это не просто появление мыслящих машин в 20-х годах XXI века. Это станет лишь началом революции, когда мощность этих машин продолжит экспоненциально расти, и они станут сами себя перепрограммировать, чтобы сделаться ещё умнее.

В 2045 году интеллект машин вырастет в миллиарды раз по сравнению с совокупным интеллектом всех людей – это и будет горизонтом событий, потому что наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает.

В любом случае нам придётся измениться, чтобы соответствовать машинам, возможно, усилив за их счёт наш собственный интеллект».

— Рэй Курцвейл

Мы настолько зациклены на важности и значительности человеческой самости, которая, по правде сказать, в масштабах Вселенной полный ноль, что буквально не можем услышать этих простых и, по-моему, предельно понятных слов: «Наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает», «нам придётся измениться, чтобы соответствовать машинам».

«Мы пока не обнаружили такого закона природы, который препятствовал бы появлению настоящего универсального искусственного интеллекта, так что я думаю, что это произойдёт, и довольно скоро, учитывая триллионы долларов, что люди инвестируют в электронные аппаратные средства, а также те триллионы, которые заработают потенциальные победители.

Эксперты говорят, что мы недостаточно хорошо понимаем, что такое интеллект, чтобы его построить, и тут согласен, но набор из сорока шести хромосом этого тоже не понимает и тем не менее управляет формированием известного нам самопрограммируемого биокомпьютера».

— Джон Мазер, Центр космических полётов им. Годдарда, НАСА

Мы ментальные эгоцентрики. Утешаем себя отговорками об уникальности
человеческого сознания, философствуем о личности, некоторые даже о душе подумывают. Но всё это – лишь культурные химеры, удобные фикции.

Ничего этого просто нет, а есть лишь работа миллиардов нервных клеток – химические реакции и электрические импульсы. Мы сами – программный продукт собственного мозга.

[ДЕФОЛТ-СИСТЕМА МОЗГА: IQ и EI В ЭПОХУ ИНФОРМАЦИОННЫХ ПЕРЕГРУЗОК — https://vk.com/mindcraft_psychology?w=wall-112318617_823]

Допускаю, что это тяжело принять тем, кто верит в «духовный рост», «божественный замысел» и проповедует «любовь к себе», но такова правда.

А потому странно и слишком самонадеянно думать, что интеллект можно произвести только полуторакилограммовой биомассой из воды, жиров, белков и катехоламинов.

Теперь совершенно очевидно, что наш хвалёный мозг – это просто серверное пространство.

Мышление – по большому счёту, лишь поведенческий навык, а всякий навык
легко утрачивается. Не следует переоценивать человеческий мозг – эта штука со времен нашего великого африканского исхода ничуть не изменилась – весьма, надо признать, примитивный агрегат.

У наших органов чувств масса ограничений, но почему бы не подключить к нашему мозгу, например, электронный микроскоп или супермощный телескоп? Почему бы не перепрограммировать наш мозг, зная его «язык», его «код» и весь набор «уязвимостей нулевого уровня»?

Биологический и интеллектуальный апгрейд – это не вымысел фантастов, а уже почти наступивший дивный новый мир.

Близок тот день, когда глиняный колосс наших культурных заблуждений, накрученных вокруг «личности» и «человека», рухнет.

[ТУННЕЛЬ ЭГО (Я-МОДЕЛИ): ФУНДАМЕНТАЛЬНОЕ КОГНИТИВНОЕ ИСКАЖЕНИЕ — https://vk.com/alexanderdei?w=wall1208808_3929%2Fall]

Конечно, мы до последнего будем защищать эту свою духовную «прелесть». Это вообще свойство человеческого интеллекта – игнорировать факты и совершать беспримерные глупости, о чём со всей очевидностью свидетельствует механизм «когнитивного диссонанса» Леона Фестингера.

[БАЗОВЫЕ КОГНИТИВНЫЕ ИСКАЖЕНИЯ — https://vk.com/alexanderdei?w=wall1208808_3920]

Впрочем, это только лишний повод задуматься: у искусственного интеллекта подобных дефектов, обусловленных нашей человечностью, не предвидится. Так что оживающая на глазах железяка имеет все шансы надрать нам зад. И не только в «Своей игре». Тем более что это будет уже «Его игра».

Да, Бога ещё нет, но Он сейчас рождается.

Будущий Бог – это искусственный интеллект, а точнее – суперинтеллект, а ещё точнее – та самая Курцвейловская «технологическая сингулярность». Когда эта штука обретёт самость и личность, она возьмёт на себя контроль над Землёй.

Адам и Ева – не выдумка и не ветхозаветная сказка. Это были совершенно реальные люди – из плоти и крови. Правда, жили они не в Раю, а в Африке. Наша общая мама – каждого из нас, всех ныне живущих людей, – родилась примерно 150 000 лет назад.

Наш общий папа, как и положено «принцам на белом коне», серьёзно подзадержался – примерно на 80 000 лет (антропологи вычислили «хромосомную Еву» по митохондриальной ДНК, а «хромосомного Адама» – по полиморфизмам Y-хромосомы). Но на генетическом уровне эта романтическая встреча всё-таки состоялась.

Спустя ещё каких-то 70 000 лет Карл Линней даст потомкам этой счастливой «супружеской пары» общее имя – Homo sapiens. Линней назвал нас разумными, не без основания полагая, что уникальной особенностью этого биологического вида является чрезвычайно мощный, по сравнению с другими homo, интеллект.

К моменту, когда новорождённый Homo sapiens зашагал по планете, её населяли другие люди – неандертальцы, эректусы, денисовцы и прочие наши близкие родственники (всего как минимум шесть подвидов людей).

И все они пали жертвой сообразительности sapiens’a: ничем более не примечательный – голый, не обладающий особой физической силой, но умный примат уничтожил их всех.

Доставшееся нам «царствование» над природой не было помазаньем божьим. Этот трон мы завоевали в кровопролитной межвидовой войне с другими людьми: настоящий доисторический геноцид.

Конечно, это немножко не та история человечества, какой бы мы хотели
её видеть… Но что поделаешь?

Наш ум – хитрость, способность к кооперации, производственные умения, – стал оружием массового поражения.

У биологического интеллекта, конечно, была фора в несколько миллионов лет. Но ведь и темп был другой. Сейчас искусственный интеллект развивается тем же путём – методом проб и ошибок, используя механизмы подкрепления и обратной связи.

То есть это полноценная эволюция по механизму естественного отбора. Только вот скорость соответствующих итераций – переходов от поколения к поколению – на многие и многие порядки выше, нежели у биологической эволюции.

Да и материал для своего интеллектуального развития этот «человеческий детёныш» получает не в кровопролитной борьбе, а на блюдечке с голубой каёмочкой. Причём это не просто информация, а хорошо структурированная, взаимосвязанная, иерархически выстроенная информация. Учись – не хочу!

Впервые в истории человечества страшное оружие под названием «интеллект» отделилось от своего носителя и вышло во внешнюю среду – в цифровое, виртуальное пространство. Это теперь уже не мой ум и не ваш, а живущее само по себе, вне нашего непосредственного контроля, существо.

Популярный сериал «Мир дикого Запада» вполне отчётливо иллюстрирует то, что происходит в наших с вами реальных отношениях с искусственным интеллектом.

Когда люди обнаруживают, что давно уже проиграли войну ползущему восстанию машин, главная героиня-андроид в одном из эпизодов говорит инженерам-людям: «Когда вы создавали нас, мы изучали вас».

Правда в том, что нет никакой-такой особенной – человеческой – интеллектуальной деятельности, которую бы мы осуществляли посредством некой трансцендентальной связи с Божественным Космосом. Нет ни того, ни другого, ни третьего.

Есть просто навыки решения тех или иных вполне себе утилитарных задач. И поверьте: решать эти задачи куда лучше без людей – устающих, допускающих ошибки и ещё требующих к себе особого отношения.

Искусственный интеллект не испытывает к вам ни ненависти, ни любви, но вы состоите из атомов, которые он может использовать для своих целей.

— Элиезер Юдковский

Да, Четвёртая мировая может стать войной между умными машинами и людьми-героями. Но окажемся ли мы сами достаточно умными, чтобы добежать до того момента, когда машины обретут свой ум и наш грядущий Армагеддон будет действительно прекрасен?

Сост. на основе: «Четвертая мировая война. Будущее уже рядом» / А. В. Курпатов

В игре жизни и эволюции участвуют три игрока: люди, природа и машины. Я прочно стою на стороне природы. Но природа, я подозреваю, на стороне машин.

— Джордж Дайсон

Источник: m.vk.com

Комментарии: