Ни образа ни подобия

За последнее время мы стали свидетелями бурного развития нейросетей. Особую популярность приобрели программы, которые генерируют изображения из текстового запроса или совмещают графические объекты. Эта технология активно используется и в метавселенных.

Необходимо установить запрет на использование в программах и технологиях искусственного интеллекта (ИИ) образа и подобия человека, т.е. человеческих лиц, голосов, с таким предложением выступил председатель Патриаршей комиссии по вопросам семьи, защиты материнства и детства иерей Феодор Лукьянов.

– Необходимо установить запрет на применение в программах и технологиях ИИ человеческих голосов, лиц, т. е. образа и подобия человека и его качеств как живого существа, – сказал отец Феодор 18 апреля 2023 года на круглом столе в НИУ ВШЭ, посвященном обсуждению правового регулирования и применения нейросетевых технологий.

Как отметил в своей презентации глава Патриаршей комиссии, «фактически нужен запрет на антропоморфизацию программ, технологий, роботов, т. е. запрет на перенесение человеческого образа и его свойств на неодушевленные предметы».

Кроме того, считает представитель Церкви, нужно разработать и закрепить на законодательном уровне введение дисклеймера для нейросетей, т.е. предупреждения о том, человек будет общаться с искусственным интеллектом.

При этом, добавил отец Феодор, имеет смысл установить ответственность разработчика за содержание информации, транслируемой программой.

Председатель профильной Патриаршей комиссии также считает, что необходимо защитить несовершеннолетних от доступа к нейросетям из-за высокой опасности влияния на детскую психику.

Как пояснил по итогам круглого стола отец Феодор, данные вопросы и проблемы обсуждались в порядке экспертной дискуссии, они выражают обеспокоенность православного экспертного сообщества.

ПОЧЕМУ ПОРТРЕТЫ ОТ НЕЙРОСЕТИ КАЖУТСЯ СТРАННЫМИ

В таких картинах чувствуется что-то дискомфортное, странное, нездоровое, и в этом опасность для психики человека. У людей таких глаз не бывает... И это понятно, ведь глаза - зеркало души. Когда нейросеть рисует лицо человека, она составляет его на основе средневзвешенных и механически склеиваемых фрагментов, причем не только само лицо, но и эмоции на нём. ИИ-картинки (и видео) могут получить широкое распространение в связи с тем, что использовать такую генерацию в разы дешевле и проще, чем нанимать людей для фото-видео-аудио. Это как сейчас - некоторые озвучивают текст в роликах нейросетью. Звучит такая озвучка вроде бы и реалистично, но чувствуется, что что-то в ней не так, она всё равно неживая. Люди, которые постоянно будут сталкиваться со множеством таких фото, видео и аудио, сгенерированных сетью, во-первых, не смогут понимать где правда, где подделка, созданная компьютерами: кто на самом деле находится в кадре - живой человек или виртуальный персонаж, коллаж, составленный нейросетью из двух настоящих журналистов... Во-вторых, вполне ожидаемо, что будет происходить расстройство способности к эмпатии, к восприятию состояния другого человека, будут возникать различные психические расстройства.

Источник: vk.com

Комментарии: