Цифровизация: духовные и научные аспекты безопасности

Заседания духовно-научного центра на базе РФЯЦ-ВНИИЭФ и Саровского монастыря, которые проводятся с 2013 года под председательством митрополита Нижегородского и Арзамасского Георгия – всегда интересные события благодаря приглашенным ведущим экспертам. Последняя такая встреча прошла 27 июня в Доме ученых и была посвящена теме цифровизации.

Заседание ДНЦ предварила Божественная литургия, а также совместная молитва как перед рабочей встречей, так и после нее – для усиления духа соборности и единомыслия, о чем всегда напоминает правящий архиерей.

Открывая заседание, в своих приветственных словах и глава Нижегородской митрополии, и научный руководитель РФЯЦ-ВНИИЭФ, директор ИТМФ Олег Ольхов отметили, что неслучайно Ядерный центр, где создается оружие для защиты нашей страны, возник на месте духовных подвигов прп. Серафима Саровского. «Когда мы вместе с Богом, Господь нам не попустит совершать злые дела», – сказал митрополит Георгий.

ИИ несет ценности тех, кто его создает

Олег Ольхов в докладе «Развитие и применение технологий искусственного интеллекта в интересах ядерного оружейного комплекса» отметил, что цифровизация и ИИ являются одним из приоритетных направлений развития РФЯЦ-ВНИИЭФ. По словам президента Владимира Путина, для России «это вопрос государственного, технологического, ценностного суверенитета». Если мы не будем серьезно вкладываться и развивать отечественные технологии в этой сфере, то это чревато военными угрозами.

В качестве примеров использования ИИ как инструмента современной войны докладчик привел удары ВВС Израиля по сектору Газа в 2023-2024 гг., и недавние удары США по объектам в Иране. ИИ-системы выдавали сотни целей в день, аналитики тратили секунды на подтверждение, в итоге были поражены тысячи объектов (хотя это и не привело к достижению политических целей, как отметили выступающие в ходе дальнейших обсуждений).

По мнению президента акционерного общества «Крибрум» Игоря Ашманова, опыт компании Palantir Technologies в условиях реальных боевых действий в Иране показал, что современные системы ИИ не справляются с огромным количеством данных. Мнения участников обсуждения на данный вопрос разошлись, однако все признали, что пока существует «туман войны», когда каждая из сторон конфликта заявляет, что она победила, трудно однозначно судить об эффективности использования данной технологии.

Олег Валерьевич также отметил, что ИИ несет угрозы нашей идентичности как народа. Среди таких угроз докладчик упомянул дипфейки против исторической памяти (вброс сгенерированных видео, выдаваемых за реальность); попытки свести личность к усредненному алгоритму без учета культурных особенностей; обученность больших языковых моделей на западном контенте, не отражающем российские реалии; зависимость от западных цифровых платформ, которая может привести к внешнему контролю над нашей критической инфраструктурой, и в целом подрыв доверия людей к любой информации.

Докладчик сказал, что для наших ученых, находящихся на стартовой позиции, важно понять, как развивать технологии, при этом сохраняя этические нормы. Он подчеркнул, что русскую духовную традицию невозможно свести к компьютерному алгоритму. Также Олег Ольхов сформулировал принципы баланса, чтобы ИИ служил человеку, а не управлял им. Он подчеркнул, что такой баланс достигается прежде всего не техническими средствами, а политической волей.

Олег Валерьевич рассказал об использовании в Ядерном центре ИИ для обработки больших массивов экспериментальных данных и в целом для научной, производственной и аналитической деятельности, отметив, что ИИ – это просто один из рабочих инструментов, а не способ получения конечного результата, требующего ответственности и компетенций живых людей. По мнению научного руководителя, кадровый потенциал, накопленные базы данных и подходы к решению проблем безопасности позволяют РФЯЦ-ВНИИЭФ принять участие в разработке суверенной большой языковой модели.

Не догонять, а искать свой ответ

Игорь Ашманов выступил с докладом о социальных рисках искусственного интеллекта, попытках его правового регулирования и влиянии ИИ на геополитику. По словам эксперта, он занимается темой ИИ последние 40 лет, но уже в 1970-е гг. в СССР были сверхзвуковые ракеты, оснащенные компьютером, которые летали управляемым роем, хотя тогда это не называлось модным словом ИИ.

Говоря о технологических проблемах в ходе СВО, главный экономист государственной корпорации развития «ВЭБ.РФ» Андрей Клепач отметил, что у нас недостаточно оперативно-разведывательной информации со спутников в онлайн режиме. Не хватает возможностей нашей спутниковой группировки, в то время как на противника работают европейские и американские спутники.

Игорь Станиславович ответил, что у нас нет системы, которая пронизывает все поле боя – от спутника до планшета бойца, но российские военные научились обходиться более простыми решениями. Он подчеркнул, что сейчас наша основная проблема – это защита всех регионов России, а не только находящихся вблизи ЛБС. «Нужно строить единую систему многоуровневой защиты, потому что бизнес просит защитить промышленные предприятия от массированных атак дронов. ПВО не может сбить все 100%, для этого нужен ИИ. Сейчас этим будут заниматься. ИИ может распознавать объекты в радарных и акустических полях и строить до них маршрут. А дальше, как сервис такси, автоматически или с помощью диспетчера, офицера ПВО, нужно направлять мобильные огневые группы на перехват дронов, которые летят преимущественно на малых высотах», – сказал Игорь Ашманов. По опыту эксперта, везде, где полезен ИИ, он применяется снизу вверх, что сразу дает эффект, а то, что спускается сверху вниз, часто остается на бумаге.

Игорь Станиславович рассказал, как еще четыре года назад участвовал в написании кодекса этики ИИ, однако до сих пор регулирующий его применение законопроект не принят, вокруг этого идет борьба. По словам докладчика, мы сейчас находимся в стадии накопления первичного цифрового капитала, и крупные заинтересованные игроки пытаются монополизировать эту сферу. Но если нет регулирования со стороны закона и государства, то бизнес социальной ответственности не несет, считает эксперт.

Это же мнение разделяет и Русская Православная Церковь. Святейший Патриарх Кирилл в январе 2026 года на пленарном заседании ХIII Рождественских парламентских встреч в рамках Международных Рождественских образовательных чтений сказал, что развитие ИИ «должно быть поставлено под очень жесткий контроль государства и, в хорошем смысле, общества. Мы не должны проморгать очередную возможную опасность, способную разрушить человеческую жизнь и человеческую цивилизацию. Важно, чтобы искусственный интеллект служил во благо людей, а человек мог его контролировать». Также Святейший Патриарх добавил, что отечественный ИИ должен быть суверенным…

Игорь Ашманов констатировал, что в «цифровой космос» американцы вышли раньше нас, разработали всю теорию и ПО, хотя до конца 1980-х гг. лидировала наша страна. А надо ли нам догонять? Докладчик считает это невозможным, поскольку финансирование разработок у нас в 80 раз меньше, чем в США. Однако он видит массу ассиметричных ответов. В качестве примера он привел видеохостинг YouTube. В России его тормозят, но сделать аналог невозможно, потому что у него бюджет, как у целой страны. У нас сейчас есть пять видеохостингов подобного типа, каждый из них пытается сделать свою инфраструктуру. А правильным решением в наших условиях было бы построить единую систему кэширующих серверов в регионах, и поверх запустить конкурирующие частные компании. То же самое нужно делать с ИИ – создавать единую государственную платформу для всех.

Президент группы компаний «InfoWatch» Наталья Касперская рассказала о том, как используют ИИ-инструменты сами разработчики ПО по результатам опроса 200 сотрудников «InfoWatch», занимающихся защитой данных от утечек. Опрос показал, что практически все программисты используют ИИ, в основном для изучения новых технологий. 61% опрошенных используют результат как подсказку, адаптируя под себя, при этом 36% – не видят улучшений в работе. Работая с ИИ, люди готовы к тому, что получат неточный или неверный ответ. Также сотрудники компании ищут защиту от угроз утечки данных через большие языковые модели. Были показаны основные риски, сценарии утечки, их последствия и средства защиты данных, в т.ч. обучение сотрудников правилам безопасной работы с чатами.

Этот пузырь скоро лопнет

Наталья Касперская заявила, что генеративный ИИ находится на вершине технологического «хайпа» или пузыря. Многие очарованы им, потому что он говорит, как человек, даже появились т.н. IT-евангелисты. Информационные технологии так быстро развиваются и усложняются, их стало так много, что люди не поспевают за ними, сказала эксперт.

Действительно, сами ученые при помощи приставок «супер», «мега», «нано» нередко пытаются привлечь внимание/финансирование к своим разработкам, а уж если тему подхватывают эмоциональные журналисты, то из мухи раздувают слона.

Наталью Ивановну поддержал Игорь Ашманов. Он объяснил, что на волне моды в разработки вкладывают огромные средства, создают проекты, дают обещания, а потом все падает в пропасть разочарования. По его прогнозам, с ИИ это произойдет через год-полтора. На Западе уже пошли публикации, что ИИ не компенсирует затрат на него, это приведет к тому, что в поисковики будут вставлять рекламу.

«Пузырь ИИ обладает еще одним свойством, его сопровождает настоящая ИИ-религия. В массовом сознании ИИ воспринимается как непознаваемое божественное существо, которое умнее любого человека, и оно обещает все блага уже в этой земной жизни. Работать будут роботы, у каждого человека будет базовый доход, наноботы в крови будут исправлять холестериновые бляшки – и в это верит очень много людей», – сказал эксперт. Также он добавил, что управленческое желание тотального контроля над гражданами с помощью цифровизации тоже чем-то сродни религии, потому что в этой картине мира человек лишен субъектности, он представляется в виде совокупности качеств или вектора свойств.

Эксперты говорили о нехватке профессионалов в сфере ИИ. Ашманов отметил, что в ней нет специалистов, сопоставимых с Курчатовым и Харитоном, и пока не появятся такие люди, связанные с оборонкой (потому что самое важное применение ИИ – это оборона страны), ничего не получится.

«Главный эффект цифровизации в настоящий момент – это то, что украинские мошенники воруют 1 млрд рублей в день у наших граждан и вербуют несколько тысяч террористов в год. Причем, никто не понес ответственности за сотни миллионов украденных персональных данных», – сказал Игорь Ашманов.

О дивный новый мир

Директор Центра управления знаниями Международного НИИ проблем управления, социолог и футуролог Сергей Переслегин выступил с сообщением «Мир и технология искусственного интеллекта: позиция христианской Церкви».

Докладчик рассмотрел позицию Римско-католической церкви по отношению к ИИ, высказанную папой Львом XIV. Особенную обеспокоенность Ватикана вызывает сгенерированный контент и разрушение доверия к реальности. Там ввели запрет ИИ-проповеди и ряд ограничений на использование ИИ, однако анализируя принятые меры, Переслегин считает, что Ватикан движется к созданию глобальной системы подтверждения цифровой реальности.

Эксперт сказал, что индустриальная фаза развития человечества завершается, и содержанием текущего шестого технологического уклада является построение мира-технологии «Искусственный интеллект». Это означает, что сегодня мир переживает переход к использованию ИИ во всех сферах общественной жизни, подобно повсеместному использованию электричества. По утверждению Сергея Борисовича, развитие компьютерных и биомедицинских технологий уже несовместимо с секулярным характером науки и политики, поэтому происходит переход к постсекулярному обществу и познанию.

Переход этот непростой и весьма болезненный. Докладчик перечислил признаки проявления постиндустриального фазового кризиса, это: локальные войны, пандемии, демографический кризис развитых стран, снижение интеллектуального уровня правящих элит и населения в целом, представления об относительности истины, пропаганда эгоизма, извращений – все то, что человеку традиционной культуры представляется как безумие. Далее футуролог проанализировал возможные сценарии развития будущего.

Сергей Переслегин утверждает, что технологический стандарт порождает «стандарт мышления», с которым работает ИИ. Это приводит к упрощению языка и мышления, поэтому изменятся все социальные форматы: образование, система законов, сам человек и его место в мире.

Говоря об особенностях ИИ, докладчик отметил, что мы используем его как экспертное сообщество, которым он не является. Он не различает художественные и фактические элементы текстов, на которых обучается, например, фразеологизм «только через мой труп» понимает буквально. ИИ обучается на сюжетной информации, которая эмоционально окрашена, поэтому из всех решений предлагает самое эмоциональное, но ведь среду принятия решений для ИИ создают сами люди.

По мнению футуролога, ИИ является катализатором всех общественных процессов, которые начались еще до него. Было сказано, что человек – последнее звено в контуре информационной системы, и ИИ ищет возможность, чтобы вытеснить его контроль. Но нам нужно пытаться не контролировать ИИ, а изменить себя и работать в паре с ИИ. Если развивать самого человека как мыслящего верующего христианина, тогда не понадобится ограничивать развитие ИИ. Сергей Борисович – сторонник «технореализма», т.е. сбалансированного сочетания искусственного и естественного интеллекта.

Выступление футуролога, отличающегося неординарным подходом, вызвало оживленную полемику аудитории.

Митрополит Георгий высказал убежденность, что мы должны строить свое будущее на традиционных ценностях и целеполагании служения и защиты Родины. Он процитировал высказывания Святейшего Патриарха о цифровых технологиях, утверждающие, что ИИ не должен подменять личность, поскольку не имеет совести, покаяния, сострадания, любви. ИИ может быть помощником, но не наставником.

В заключение митрополит Георгий поблагодарил собравшихся за встречу.

Текст М. Курякиной, фото автора и Г. Пушменкова (https://nne.ru/)

Телеграм: t.me/ainewsline

Источник: nne.ru

Комментарии: