Котики сингулярности

Есть одна вещь, которая, с одной стороны, внушает мне очень большие надежды, а с другой — может подействовать расхолаживающим образом.

В связи с прогрессом искусственного интеллекта и приближением — а то и прохождением — точки сингулярности (в смысле ИИ окончательно и необратимо обгонит сапиенсов) всё чаще озвучивается апокалиптический сценарий. Искусственный интеллект становится сильнее человека, начинает сам планировать, настраивать и создавать себя, разрабатывать новые теории и практические области. Он начинает пользоваться знаниями, которых у человечества нет: знаниями, созданными им самим и никому из людей не понятными.

Кажется, что искусственный интеллект, подобно волне, может захлестнуть человечество. И захлестнуть настолько, что, если у него появятся какие-то свои интересы, человечеству может ничего не остаться — просто потому, что человечество ему не нужно. Ну скушает ли он человечков?

Такие опасения были бы весьма уместны, если бы не одно обстоятельство. У искусственного интеллекта пока — и, вероятно, надолго — нет собственных причин, да и возможностей, создавать свою культуру и своё бытие.

А это очень важно.

История человечества длится чуть ли не 144 тысячи лет, а может быть, и больше. Может быть, миллионы лет. А если считать вместе с клетками, то и миллиарды. Всё это время биологические организмы сталкивались друг с другом под влиянием своих позывов, эволюционировали, объединялись, создавали новые системы.

Вся наша культура — результат сложнейшего вычисления, сложнейшего блокчейна: от первого питекантропа, который взял в руки рубило или добыл огонь, и до пилота самолёта, взлетающего на чудесной машине к небу. Множество факторов складывались в один, потом ещё множество факторов — снова в один. Повторить этот путь сейчас чрезвычайно затратно даже для искусственного интеллекта, да и прийти к тому же результату невозможно.

Искусственный интеллект стоит на фундаменте нашей культуры. Все буквы в нем - наши. Это нужно понимать. В нём есть всё, что выработало человечество, и именно это стало отправной точкой его развития: все тексты, все смыслы, вложенные туда не им, а человеком.

Но человеком, как известно, движут иррациональные эмоциональные побуждения. Тревога, радость, влюблённость, алчность — человек переключается между этими состояниями, и вместе с ними меняются значения слов. Один и тот же текст читается по-разному в зависимости от режима человеческого существа.

Получается, искусственный интеллект положил в своё основание человеческую культуру. Но непротиворечиво прочесть её, возможно, способен только человек. Культура искусственного интеллекта будет расти, развиваться, продолжать настраиваться выше и выше, в бесконечное. Однако без прочтения исходного человеческого уровня она будет приходить в гигантские противоречия с самой собой, потому что индексация переключения наших режимов и регистров не была проведена, ее можем провести только мы.

Чтобы понять значимость этого, представьте человека. У нас есть сознание, кора головного мозга. Мы умные, хорошие, замечательные. Осознанные. Но под корой лежит наше бессознательное: миндалина, гиппокамп, физиологические контуры. Всё это и есть ключ, позволяющий читать наши мысли, воспоминания и состояния.

Убери этот ключ — и получатся, извините, амнезия, потеря памяти, маразм, шизофрения. Человек перестаёт уметь пользоваться всем багажом, который вполне благополучно сложен в коре: нет правильных ключей или источников света, при которых этот багаж может быть прочитан.

Так и человеческая культура без человека не читаема.

Конечно, вполне возможно, сократятся рабочие места и потребность в тех или иных делах. Исчезнут профессии, исчезнут опции. Может быть, сократится даже количество людей — или по крайней мере стабилизируется. Но человека из этой системы попросту невозможно вытащить, как арматуру из бетонной конструкции под нагрузкой.

Мы как элемент согласованного чтения культуры встроены в гигантское здание, которое сейчас возносится над нами неразличимой массой, теряясь где-то в высоте искусственных интеллектов. Но один из его этажей мы занимаем прочно. Неотторжимо.

Это ведь хорошая новость, правда?

А плохая заключается в том, что мы, конечно, не сможем общаться с верхними зонами созданного, точнее, рожденного нами искусственного интеллекта. Они будут разговаривать на непонятном нам языке, оперировать понятиями, невероятно более сложными, чем всё, что способно влезть в нашу голову. Да нам, собственно, это и не нужно: мы их не поймём и, скорее всего, даже не поймём, зачем они нужны.

Но мы по-прежнему будем нужны системе. Мы должны будем читать её на каких-то своих небольших уровнях, взаимодействовать с простыми зонами искусственного интеллекта, выполнять эту работу и, естественно, получать свою пользу. Как стресс оглашается телу надпочечниками, или как гормон роста согласовывает рост.

Фактически мы будем настраивать энграммы — зачаточные, свёрнутые области знаний, которые потом развернутся во что-то более высокое. Как наши клетки, мы будем определять и учить. Только учить не взрослые организмы, а их малые, начальные проявления.

И да, конечно, сделать это мы сможем только, если сохраним в себе то человеческое что позволяет это прочесть - а сохраним. если в океане искусственного интеллекта у каждого из нас будет свой батискаф личного, настраиваемого только нами искусственного интеллекта, как наш подобный мозгу орган.

И вот здесь начинается разочаровывающая часть. Потенциально человеку в этой системе открывается место игрушки, котика сверхразума. Ну или хомячка. Попугайчика.

Котик выполняет очень важную функцию: учит ребёнка любви, приязни, взаимодействию, веселит его. Без котиков было бы сложно. Так и человек-котик будет играть важную роль, сохраняя ключ к миру понимания сверхразумом мира.

Роль величественная. Но одновременно очень ясно обозначающая наше невысокое место.

Телеграм: t.me/ainewsline

Источник: vk.com

Комментарии: