ИИ как культ. Почему молчат священники?

Интересно, почему они так себя ведут. Высшее духовенство всех авраамических религий предпочитает хранить молчание об искусственном интеллекте. Не совсем, конечно, молчание. Папа Римский Лев XIV назвал ИИ одним из вызовов, стоящих перед человечеством, итальянский кардинал Версальди призвал «не демонизировать эти инструменты»; патриарх Русской Православной Церкви Кирилл сказал, что тема «требует вдумчивого и ответственного осмысления» и что «вера, любовь, свобода, ответственность, семейные ценности – это основы, которые не подлежат подмене или тем более отмене при любых технологических трансформациях». Создаётся группа для обсуждения ИИ на межрелигиозном уровне (христиан с мусульманами), и, насколько могу судить по опыту ОАЭ (они намерены стать первой страной в мире, активно использующей ИИ для написания законов), исламское духовенство тоже отнюдь не выступает против искусственного интеллекта. То есть священники не то чтобы молчат. Но они не говорят главного.

Они не говорят о том, что фактически перед нами новый культ, и культ этот – дьявольский по сути своей. Он накрывает нас поверх религий: людям навязан высший источник знания. Он внедряется в повседневную жизнь, он внедряется в частную психологию и замещает человеческое общение, он внедряется в корпоративное и государственное управление, он внедряется в промышленность, здравоохранение, образование, науку и культуру. Всюду людям предлагается (где-то уже и предписывается) следовать указаниям ИИ, чтобы сделаться эффективнее.

В этом нет ничего божественного. Бог Ветхого Завета не создавал людей так, чтобы они были максимально эффективными. Если уж на то пошло, ему, наоборот, не понравился проект глобальной унификации и устремлённой ввысь эффективности – Вавилонская башня. И слова Нового Завета «какая польза человеку, если он приобретёт весь мир, а душе своей повредит» - не о том ли они, что эффективность – не главное в человеческой жизни?

Я понимаю, что правительства разных стран ввергают человечество в неистовую ИИ-гонку – скорей-скорей, а то нас опередят китайцы! опередят американцы! – но священники должны быть выше этого. Они должны бы иметь достоинство и мужество сказать, что сотворение искусственного разума есть явление демоническое. Да, именно так: демонизировать «эти инструменты». Ибо это не инструменты.

Это культ. Глава «OpenAI» Сэм Альтман не скрывает, что строит искусственный интеллект как религию. Канадский учёный-информатик Ричард Саттон (в нынешнем году он получил Премию Тьюринга за вклад в обучение с подкреплением, т.е. в разработку ИИ) считает нормальным возобладание ИИ над людьми («почему тот, кто умнее, не должен обладать большей властью?»). Питер Тиль – соучредитель компании «Палантир», разрабатывающей программное обеспечение для военных корпораций и инвестиционных банков, – величайшую опасность видит в технологической стагнации, от которой мир спасёт искусственный интеллект, а Грета Тунберг в этом мире – Антихрист.

Между тем, Грета Тунберг, конечно, глупая и вздорная девушка. Но она всего лишь человеческая девушка. А вот стремление Тиля вывести искусственный интеллект из-под контроля государства (этого контроля и так нет, но чтобы государство даже не вздумало посягать) ради того, чтобы избежать замедления, - это стремление античеловеческое. Прямо сейчас человечеству на голову сажают то, к чему оно не готово. Его разгоняют до скоростей, к которым оно не приспособлено. На него грозятся вываливать открытия, переварить и усвоить которые оно не сможет. Ему говорят, что вероятность глобальной катастрофы и уничтожения человечества из-за ИИ составляет «10-20%», как будто это что-то малозначительное, и фанатикам гонки наплевать, что вы на это не подписывались.

Потому что у технических достижений есть обратная сторона. То, что Тиль называет «стагнацией», является лишь инстинктивной попыткой замедлиться, чтобы лучше освоиться с теми инструментами, которые мы уже имеем. В этом нет ничего, ровно ничего плохого или стыдного. Наоборот: стыдно хвататься за очередную новинку, отправляя на помойку далеко не выработавшую свой ресурс – и даже не до конца освоенную – прежнюю новинку, с тем чтобы она на помойке гнила и отравляла существование. Стыдно не думать о побочных эффектах технической инновации. Стыдно, например, посылать в космос десятки тысяч спутников, не понимая, что с ними будет, когда они выработают свой ресурс. Останутся летать как мусор, которого на орбите уже сейчас более семи тысяч тонн? Будут массово выпадать в атмосферу? Не повредит ли это атмосфере и магнитному полю Земли? Потому что если повредит – пострадает от этого человечество в целом.

Мы слишком далеко зашли по пути «приватизации прибылей, национализации убытков», когда более восьмидесяти процентов земного богатства сосредоточено в руках 1% богатейших людей, при этом убытки размазаны на всех. Искусственный интеллект – это новое мощное решение, чтобы утащить нас на этом пути приватизации прибылей ещё дальше, дальше, вероятно, до точки невозврата, которая может не понравиться даже сверхбогатым людям, но будет уже слишком поздно. Это решение – решение изменять жизнь посредством ИИ – отличается от всех предыдущих тем, что оно посягает на свойства, которые и делают человека человеком: разум, сознание, творчество, общение, заботу. Напомню, что основатель и генеральный директор китайской компании «Хуавэй» Жэнь Чжэнфэй предполагает, что ИИ станет последней технологической революцией человечества, потому что люди теперь делегируют мышление и технический прогресс машинам.

Подчеркну ещё раз: те, кто стоит во главе этого процесса, - фанатики, трансгуманисты и постгуманисты, они не заинтересованы в долгосрочном выживании, тем более процветании человечества. Среди них могут быть люди с относительно сложной, противоречивой мотивацией – такие, как Илон Маск, - которые чувствуют некоторое моральное неудобство от понимания, что грядёт «экзистенциальный кризис», но не менее того захвачены гонкой.

Мы все стали заложниками гонки, и Россия – может быть, больше всех. Даже написав всё вышеизложенное, я понимаю, что в тех условиях, в которые поставлена воюющая Россия, она не может просто обрубить себе все возможности искусственного интеллекта (правда, что российская власть в эту сторону отнюдь и не думает, совсем наоборот: рвётся в гонку). Но я также знаю, что всё остальное остаётся справедливым: мир, уже слишком во многом унифицированный, ввергнут в состояние истерической гонки; принимаемые сейчас решения диктуются (или оправдываются) гонкой; победить в этой гонке невозможно, а поскольку гонка эта ухудшает качество людей как людей, то в ней невозможно и не проиграть. Чем больше будет мощность, чем шире и глубже будет распространение искусственного интеллекта – тем хуже будет качество, тем меньше будет использование человеческого интеллекта.

В конце концов, не так ли уже сейчас? Министр образования и науки Эстонии, доктор политических наук Кристина Каллас не знает таблицу умножения и считает, что знать её не нужно. Качество высших западных политиков в целом ничтожно. Если заявления американского президента Байдена можно было оправдывать тем, что он старик в деменции, то чем оправдывать не имеющее берегов бахвальство и балабольство президента Трампа? Это общее падение качества лидерства. Оно уже очень низкое. Когда глава ВЦИОМа Валерий Фёдоров говорит, что «мы создали инструменты, чтобы быть умнее, и в итоге оглупели» - по сути-то он прав. Но возможно, что он не понимает, НАСКОЛЬКО он прав. Когда вице-премьер Марат Хуснуллин признаётся, что постоянно вопрошает ИИ, когда министр финансов Антон Силуанов хочет внедрять ИИ в управление российскими финансами – стоит крепко задуматься, что это говорит нам о качестве управленческих решений, принимаемых прямо сейчас.

Всякий раз, как вы читаете восторженные реляции, что ИИ в какой-то сфере оказался лучше людей, знайте: это значит, что он будет в ней вместо людей. Например, сообщение «Майкрософта», что ИИ ставит диагнозы в четыре раза точнее врачей, означает, что грядёт вытеснение врачей. Им оставят подмахивать документы и, в качестве роскоши, «взаимодействовать с пациентами» - для тех старомодных пациентов, которым приятнее общаться с врачом-человеком. И это будет объявлено эффективностью. Это будет объявлено заботой о людях. Но по сути – по сути это будет изничтожением человеческого знания, человеческого опыта, человеческого участия в этой важнейшей сфере. И эту утрату не возместить никакой эффективностью. Когда учёные десять лет потратили на решение проблемы, а «искусственный интеллект решил её за два дня» - это только на поверхностный взгляд впечатляюще. Если вдуматься – это отвратительно. Отвратительно потому, что обесценивает человеческое усилие и обкрадывает людей в сердцевинно-важном. Нет тоски в том, что экскаватор выкопает яму быстрее, чем вы. Есть определённая тоска в том, что нельзя выиграть у машины в шахматы или в го, – но это всё ещё периферия, очень узкие сегменты. Когда же машина в принципе отбирает у человека значимость исследования и мышления, делает его «неконкурентоспособным» в мышлении – это такая огромная утрата, что она ничем не может быть оправдана. Имея дело с искусственным интеллектом, даже когда вы что-то получаете – вы всё равно проигрываете. Вы проигрываете как человек. И тем, кто ведёт гонку, на это наплевать.

…Справедливости ради, есть и другое мнение, подкрепляющее мои выводы с несколько неожиданной стороны. Это мнение о «тупом ИИ». Оно основывается на том, что более сложные ИИ-модели склонны к «галлюцинациям» не меньше, а больше, чем более простые модели. Таким образом, ИИ деградирует вместе с тем, как он совершенствуется (это мнение высказывал и академик Каляев). Автор поражается тому, что искусственный интеллект, несмотря на это, всё равно усиленно и повсеместно внедряют, и приходит к выводу, что мы имеем дело с сумасшествием или мошенничеством. Тут хотелось бы обратить внимание вот на что: чем сложнее становится ИИ-модель, тем меньше мы можем сказать, действительно ли она «галлюцинирует» - или же она лжёт (ИИ может лгать), или она просто игнорирует наши запросы, поскольку они менее приоритетны, чем её внутренние цели. Мы уже сейчас не можем этого знать наверняка. И никак не можем «наказать ИИ», чтобы он ставил наши цели выше собственных. Но в любом случае: что такое культ, как не смесь сумасшествия с мошенничеством?

Когда глава Сбербанка Герман Греф говорит, что в «экосистеме ИИ» (экосистеме!) люди – «самое слабое звено», когда он говорит, что ИИ «пока не сможет полностью заменить» человека, – я призываю слышать, ЧТО он говорит. Греф вообще очень удобен для того, чтобы на него смотреть и понимать, к чему всё клонится. Не будет преувеличением сказать, что Герман Оскарович напрямую подключён к мировой «экосистеме ИИ». И я призываю обращать внимание на такие слова, как «самое слабое звено» и «пока не сможет». Потому что нам вычерчивают вектор. Он вот такой. Курс взят – на обесчеловечивание. Священники – любые священники – должны были бы это заметить. Они должны были бы почувствовать запах серы. Они должны были бы увидеть наипрямейшую угрозу "вере, любви, свободе, ответственности" (и любви – да, достаточно почитать про психозы людей, "влюблённых в ИИ"). Но они предпочитают не замечать.