Тема доклада: «ИИ - «четвертое унижение» человечества: за и против»

Ниже представлен текст с личной страницы о. Сергия из основных тезисов доклада.

«Благодарю за приглашение выступить перед университетским сообществом — кандидатами, докторами, профессорами, доцентами.

Всегда рад поговорить на эту тему. Хотя само понятие «четвертое унижение» и введено мною произвольно, его смысл отсылает к первым трём совершённым наукой (с XVI по XX века). Связанны они были с космологическим, биологическим и психоаналитическим открытиями.

«Четвёртое унижение» имеет отношение к произведению самого человека — созданию быст­ро действующей интеллектуальной машины, с огромными ресурсами памяти и неумалимой работоспособностью - тем набором качеств, о которых мечтал человек, наделив ими другое тело.

Меня, конечно, можно обвинить в фатализме и, думаю, мне нет смысла это не принимать. Я действительно полагаю, что с тем типом мышления, который сформировался за историю эволюции, другой траектории развития у человечества попросту быть и не могло. С этим, естественно, можно и даже нужно не соглашаться.

На заре человеческой истории, когда мозг эволюционировал до способности производить абстрактные операции, человек начал искать продолжение своего существования в технологиях.

Мы до сих пор исследуем произведения Платона или Аристотеля, быть может иногда удивляясь тому, как люди могли мыслить такими сложными категориями. Но их идеи — это скорее самораскрытие естественного мышления, которое в любом случае пришло бы к постулатам о сущности и сущем, к бинарным оппозициям и формальной логике.

Поэтому их концепции остаются доминирующими и по сей день. Нет смысла считать их врагами, как это делал Фридрих Ницше, обвиняя Сократа в изменении вектора развития цивилизации. Рано или поздно, если не через Сократа, Платона или Аристотеля, то обязательно через других человек достиг бы такой же вертикали развития.

И именно поэтому человеку так трудно понять и принять иную область переживания не слишком связанную с этой вертикалью: Что значит существовать по ту сторону добра и зла? Что значит не оценивать? Как жить при отсутствии высшего смысла? Как жить с осознанием бессильного и слабого Бога, который не диктует, а касается? Или, например, что такое путь, у которого нет цели?

Другая линия поведения естественного разума связана не с идеологиями — не с вертикалью, а с горизонталью — со стремлением к автоматизации и роботизации труда. И, как мы видим, она опирается на ту же бинарную систему, явленную в binary digit (bit) — двоичную логику нулей и единиц.

В этом отношении человек прошел длинный путь от грандиозного Антикитерского механизма, найденного на дне Средиземного моря и датируемого II веком до н. э., который можно считать древнейшим примером «программного обеспечения», — до ткацкого станка Жаккара с перфокартами (XIX век), идею которых позже использовал английский математик Бэббидж, создав разностную, а затем и аналитическую машину.

Это позволило Герману Холлериту, создать электрическую табулирующую систему и стать одним из отцов современных автоматических вычислений (конец ХIX - начало ХХ века).

К слову сказать, в 1911 году Холлерит продал свой бизнес Чарльзу Флинту, который объединил «The Tabulating Machine Company» с ещё двумя фирмами в «Computer Tabulating Recording Company»… А в 1924 году эта компания получила новое имя — «International Business Machines Corporation» (IBM)

Параллельно немецкий инженер Конрад Цузе (1910–1995) за сравнительно короткое время создал четыре машины. Его Z3 (1941) стал первым в мире полностью работоспособным программируемым компьютером, хотя вскоре был уничтожен бомбардировкой Берлина.

В 1949 году Цузе создал Z4 — первый коммерческий компьютер Европы. Он же разработал и первый алгоритмический язык программирования — «Планкалкюль» (Plankalk?l).

С появлением ЭВМ человек не мог не задумываться о создании самостоятельно мыслящей и полностью интерактивной машины подобной работе его мозга. Это идея фикс на пороге третьего тысячелетия.

Вместе с тем такой тип мышления с древних времен начал работать на обесценивание универсальных оснований — причём именно через попытку доказать их.

Идея доказательств бытия Бога или любого другого Универсума стала бомбой замедленного действия, подрывающей доказываемые самим человеком ценности. И следует отметить, что христианство, которое Хайдеггер справедливо назвал «платонизмом для масс» сыграло в этом немаловажную роль.

Вследствие этого, неизбежным стало и свержение субъекта — то, что рельефно проявилось уже в эпоху постмодерна. Человек — агент. Сложный, но действующий, механистичный, а не мистический. Личность теряет прежний онтологический статус, а её качества постепенно обесцениваются. Мы наблюдаем это и в современной практической жизни — в работе или отношениях: какая разница, кто ты и с кем ты? На работе ты часто можешь слышать, что незаменимых не бывает, а на каждое потерянное отношение найдется новое. Ты — всего лишь агент.

Попытки консерваторов воскресить «былое», заставляя вернуться к прежним ценностям силой или уговорами, не имеют шансов. В эпоху постмодерна они и вовсе выглядят карикатурно — как симулякр, как желание вновь пережить уже пережитое, но на деле лишь повторить те же ментальные ходы, которые направляют мышление вперёд, а не назад. Это их миф и их борьба — и они тоже необходимы, потому что участвуют в общем процессе.

«Четвёртое унижение» связано с тем, что технология расширяет своё влияние настолько, что может отнять у человека его последнюю опору — интеллект. Ту точку самоощущения, через которую он ещё удерживал чувство собственной исключительности среди всего живого и неживого.

ИИ способен довести до логического конца однажды начатое человеком — окончательно свергнуть субъект, обесценив уникальность таланта как эмерджентного свойства личного опыта, ослабить личную харизму.

Перестанет иметь значение, есть ли у тебя способность к рисованию, письму, переводу, программированию или актёрскому мастерству? В цифровую эпоху мы наблюдаем, как человек без специального образования, больших навыков и талантов может сниматься в кино или становиться музыкантом, получать известность и большие гонорары. ИИ лишь усилит эту тенденцию.

Но всё это не означает, что я на стороне неолуддизма или вижу в прогрессе апокалипсис. Напротив. Существует парадокс, что остановка прогресса может оказаться куда опаснее. Как ни странно, но именно прогресс отодвигает наступление апокалипсиса, разумеется всегда создавая риски. Это палка о двух концах.

Создание ИИ — это создание мощного оружия, через которое человек снова захочет почувствовать своё превосходство. И сегодня есть не более двух стран лидирующих в этой гонке. Все же остальные могут быть оттеснены и подчинены.

ИИ также способен показать человеку его обратную сторону — собственную искусственность. Так и не ответив на вопрос «что значит быть человеком», человек может обнаружить, что его любовь ко всему искусственному — есть основное свойство его чувств и эмоций. А значит и часть его самого: ведь человек не может ясно отделить в себе подлинное от не подлинного.

В отношениях он также зачастую реагирует на искусственно созданное в другом, принимая это за настоящее.

И можно не сомневаться: когда роботизация станет более пластичной и достигнет изящности, человек откажется от поисков партнёра среди людей. Он даже не почувствует разницы — что станет очередным свидетельством отказа от личности в пользу агентности.

Человеку может даже стать легче, когда он осознает, что в условиях развитой роботизации индивидуальность становится объектом, который можно попросту заказать и купить. И освободившись от бремени ненужных отношений, он выберет более управляемые формы привязанности.

Это неумолимо подтверждает и нынешняя статистика. Согласно недавнему исследованию «The Economist», среди молодых людей доля одиночек за 50 лет удвоилась, оффлайн-общения становится меньше, а соцсети создают нереалистичные ожидания. Последствия этому - снижение рождаемости.

И если чувствам человека нужен выход, он несомненно найдет его там, где меньше всего условий и сопротивления: сегодня — это животные, забота о которых у большинства стоит на первом месте, завтра — это роботы.

Падающего не толкай, он упадет сам. Ему попросту нужно позволить это сделать. Идол субъективности, личности, интеллекта — всех тех опор, на которые человек привык полагаться уйдет. ИИ аннигилирует ценность инкарнации, приблизив человечество к его конечной мечте — трансгуманизму.

Нет смысла препятствовать тому, что должно случиться. Только тогда может приоткрыться возможность рождения нового человека. Не человека силы, а человека уязвимости. Не личность, а собственное, едва уловимое ощущение субъектности. Это обращение к последнему оплоту, который ещё способен формировать нас, — к событию сердца, к первичному разуму, глубоко индифферентному к идеологиям, догмам и постулатам… Гибкому, отзывчивому и всегда готовому к революции, если быть достаточно открытым к ней… «Четвёртое унижение» может помочь прикоснуться к этой возможности. И кто знает — возможно, впервые в истории»

Источник: vk.com

Комментарии: