В средней школе Нью-Джерси девочки обнаружили, что их обнаженные фотографии, сгенерированные искусственным интеллектом, распространяются мальчиками в групповых чатах

Когда девочки в средней школе Вестфилда в Нью-Джерси узнали, что мальчики делятся их обнаженными фотографиями в групповых чатах, они были шокированы, и не только потому, что это было вторжением в частную жизнь. Изображения не были настоящими.

Школьники рассказали, что один или несколько одноклассников использовали онлайн-инструмент на базе искусственного интеллекта, чтобы сделать изображения, а затем поделились ими с другими.

Цифровые изменения или подделки фото и видео резко возросли вместе с появлением бесплатных или дешевых инструментов искусственного интеллекта.

Средняя школа подтвердила этот инцидент в электронном письме родителям, но представительница государственных школ Вестфилда отказалась предоставить подробную информацию о количестве вовлеченных учеников или подтвердить, были ли приняты какие-либо дисциплинарные меры, сославшись на конфиденциальность учащихся.

Некоторые родители из Вестфилда заявили, что их дочери почувствовали себя униженными и беспомощными и беспокоятся о том, что девочкам могут навредить, если изображения всплывут позже. И они расстроены тем, что никакого решения не последовало.

Цифровое издевательство широко распространено в школах. Смартфоны и встроенные в них камеры уже сделали ущерб от онлайн буллинга более глубоким и продолжительным. Люди уже давно могут редактировать фото с помощью Photoshop и аналогичного программного обеспечения, но новые инструменты с искусственным интеллектом позволяют легко создавать сфабрикованные фотографии. Любое фото можно распространить в социальных сетях и на платформах обмена сообщениями с помощью нескольких нажатий.

«Несколько лет назад для создания изображений понадобился бы целый кластер компьютеров. Теперь вам просто нужен iPhone», — сказал Бен Колман, исполнительный директор Reality Defender, который работает с компаниями и государственными учреждениями над обнаружением поддельных изображений, созданных ИИ.

По данным компании Sensity AI, занимающейся обнаружением изображений, более 90% таких ложных изображений, известных как «дипфейки», являются порнографическими.

Поддельные сексуальные изображения реальных людей настолько новы, что федеральный закон отстает, говорят эксперты по правовым вопросам. Несколько штатов, включая Вирджинию, Калифорнию, Миннесоту и Нью-Йорк, объявили вне закона распространение фейковой порнографии.

Еще один случай в США, связанный с фейковой порнографией, привел к уголовным обвинениям. В апреле 22-летний житель Лонг-Айленда был приговорен к шести месяцам тюремного заключения за создание и публикацию фальшивых фотографий с девушками из школы, в которой он учился. Оригинальные фотографии были сделаны, когда девушки учились в средней и старшей школе.

Источник: vk.com

Комментарии: