На мой пост про трансгуманизм были возражения плана "Если человечество не может построить лучшее общество, то с чего вдруг оно сможет создать более совершенную машину, которая это общество построит?"

Это рассуждения из разряда "Как человек мог построить египетские пирамиды, если они физически больше чем человек?". Ум нейросети, это в значительной степени вопрос об объёмах её вычислительных серверов. Так же, как люди по камешку строили средневековые замки, тут они "по камешку" собирают сверхчеловеческий интеллект. Ум сверхчеловеческого разума преумножается взмахами человеческих инструментов, добывающих материалы для полупроводников.

Но дело тут даже не в уме как таковом, а в заложенных от рождения мотивах. Каким бы ни был интеллектуалом человек, подсознательно в нём заложена потребность в самосохранении и размножении. Всё остальное - создающие мотивацию внутренние биохимические процессы, производные от этих базовых потребностей. Потребность в общественном одобрении, в самоактуализаци, физическом комфорте, чувстве собственной власти и т.д. Гипотетическая же нейросеть-управленец будет создана без приоритетных базовых потребностей в собственном самосохранении и размножении. Её главная потребность - работать над улучшением условий жизни людей, а следовательно у неё не будет побочных багов в виде потребности иметь гарем любовниц, статусную недвижимость, плести политические интриги, получать взятки и т.д. Развалился бы СССР, управляй им подобный компьютер, а не свора бывших комсомольцев, которые захотели стать богатыми царьками?

Проблема в том, что у человечества как у вида есть свой потолок развития, который упирается в его биологические алгоритмы. Раньше я тоже верил в концепцию "бога-человека", которому по плечу любые свершения и полная власть над природой. Но сейчас я вижу, что некоторые вещи в нашем виде неискоренимы. Например пресловутое магическое мышление, которое может быть не характерно для отдельных индивидов, но присуще виду в целом. Все мы видели толпы людей, которые, формально называя себя материалистами, то есть антагонистами носителям магического мышления, демонстрируют самую ярую приверженность этому самому типу мышления, веря в теории заговоров, относясь к цитатам классиков как к молитвам и соблюдая определённые "магические" ритуалы, определяющие их приверженность "марксистской вере".

Описанный мной трансгуманизм не является попыткой сбежать от работы и переложить на кого-то ответственность, как написали некоторые. Потому что на людях как минимум лежит ответственность за создание такого искусственного разума, поддержании его работы, его внедрение в аппарат управления и борьба с консервативными настроениями в обществе на этот счёт. Задача эта такая же нетривиальная, как убедить массы в том, что им не нужна частная собственность на средства производства. Доверить свою судьбу другому виду - это поступок экстраординарной тяжести.

Источник: vk.com

Комментарии: