Дипфейк-порно становится все популярнее, и всякий раз жертвой становятся женщины

Звучит как эпизод "Черного зеркала", однако мы переживаем эпоху пугающе подлинной эпидемии дипфейк-порно. Дженнифер Савин изучает, как поддельные нюдсы разрушают жизни…

Я смотрю на фотографию своего обнаженного тела, прислонившегося к балкону отеля в Таиланде. Мое джинсовое бикини поменялось на обнаженные бледно-розовые соски и гладкую безволосую промежность. Я увеличиваю изображение, пытаясь определить, есть ли хоть что-то, что могло бы указать на истину. Можно заметить небольшую зернистость вокруг моей талии, но это можно легко исправить в любом фотошопе. На этом всё.

Хотя это изображение не совсем походит на то, что я вижу, глядя на себя настоящую в зеркале, оно также и не слишком отличается. И пугает, как кому-то может потребоваться всего два нажатия кнопки, чтобы прикрепить это к электронному письму, опубликовать в твиттере или разослать это всем моим контактам. Или загрузить на порносайт, в результате чего я проведу остаток своей жизни в страхе, что каждый новый человек, с которым я буду знакомиться, когда-то то видел меня голой без моего согласия. Вот только они бы не видели. Это была бы не совсем я. Потому что эта фотография, несмотря на то, что выглядит реалистично, является подделкой. И все, что потребовалось для его создания - это легко гуглящийся автобот, обычное фото с отпуска и пять фунтов стерлингов.

Это изображение является дипфейком и частью быстро развивающегося рынка. По сути, искусственный интеллект (который с каждым днем становится все более доступным) может взять любое изображение и преобразовать его во что-то другое. Помните альтернативную запись "Рождественского послания королевы" на четвертом канале, в которой "Ее Величество" исполнила потрясающий танец из ТикТока? Дипфейк. А те жутко реалистичные видео с "Томом Крузом", ставшие вирусными в феврале прошлого года? Дипфейк. А то приложение по "смене пола", которое мы все скачивали на пару дней во время карантина? Вы уже догадались: дешевый вид дипфейка.

Тем не менее, несмотря на их распространенность, термин "дипфейк" (и его мрачный преступный мир) все еще мало кому известен. Только 39% читательниц Cosmopolitan сообщили, что во время нашего исследования им было знакомо слово "deepfake" (оно происходит от сочетания "глубокое обучение" – вида программирования искусственного интеллекта – и "подделки"). Грубо говоря, технология, лежащая в основе фейков, генеративно-состязательная сеть (сокращенно GAN), представляет собой структуру из двух частей: есть генератор (который создает контент после изучения похожих изображений, аудио или видео) и дискриминатор (который проверяет, является ли новый контент законным). Представьте себе, что подросток подделывает удостоверение личности и пытается проскочить вышибалу; при отказе подросток лишь усерднее начинает работать над подделкой. GAN хвалили за невероятные разработки в области кино, здравоохранения и технологий (беспилотные автомобили полагаются на нее), но, к сожалению, на самом деле, это чаще используется во вред, чем во благо.

Исследование, проведенное в 2018 году компанией Sensity AI по выявлению мошенничества, показало, что более 90% всех онлайн дипфейков – это несогласованные порнографические ролики, и предсказало, что их число будет удваиваться каждые шесть месяцев. Перенесемся на четыре года вперед – это пророчество сбудется. Только Google насчитывается более 57 миллионов просмотров "дипфейк порно" [на момент написания статьи – 2022 г.]. Интерес к нему вырос на 31% за последний год и не демонстрирует никаких признаков замедления. Означает ли это, что мы уже потеряли контроль? И если да, то что можно сделать, чтобы остановить это?

КТО ЯВЛЯЕТСЯ ЦЕЛЬЮ?

Пять лет назад, в конце 2017 года, в темных глубинах популярных чатов назревало что-то коварное. Пользователи Реддит начали массово насиловать знаменитостей, используя программное обеспечение deepfake для создания порнографии с помощью заурядных фото с красной ковровой дорожки или из постов в социальных сетях. Пользователи делились своими методами генерации сексуализированных материалов, работали по запросам (оправдывая такое надругательство над публичными фигурами тем, что это "лучше, чем дрочка на их реальные всплывшие нюдсы") и оповещали друг друга об обновлениях. Этот новый поток порнофильмов привел в восторг именно этот уголок Интернета, поскольку он поразился тому, насколько реалистичными были видео (всё благодаря разнообразию медиа с выбранной знаменитостью и их доступностью для изучения ИИ).

Так было до тех пор, пока интернет-боссы, от Реддит до Твиттера и Порнхаба, не собрались вместе и не запретили дипфейки в феврале 2018 года, пообещав быстро удалять все, что может просочиться через сеть и попасть на их сайты – в основном потому, что были высказаны (обоснованные) опасения, что политически мотивированные поддельные видео также начали обретать популярность. В видео с политиками, явно призывающие к насилию или "говорящих" вещи, которые могут навредить им в будущем, была увидена угроза. Несмотря на то, что количество поддельных порно в тысячи раз превышает количество видеороликов с политическими деятелями, подавление этого аспекта технологии было всего лишь приятным побочным продуктом.

Но этого было недостаточно; треды были переименованы, создатели мигрировали в разные части Интернета, и влиятельные люди все чаще становились мишенью наряду со знаменитостями. Упало количество подписчиков, нужное для того, чтобы этих женщин расценили как жертв преследования.

Перенесемся в сегодняшний день – ведущий сайт, специально созданный для размещения поддельного порно со знаменитостями, ежемесячно просматривают более 13 миллионов пользователей (это вдвое больше населения Шотландии). У него есть перформативные правила, запрещающие любые запросы на создание дипфейков с "обычными" людинями, но в чатах по-прежнему полно рекомендаций о том, как самостоятельно создать фейк, и о людях, принимающих пользовательские запросы. Тревожно, что наиболее “популярные” знаменитости – это те, кто обрела славу в юном возрасте, и это вызывает еще один неприятный вопрос: когда мы говорим о фейках, говорим ли мы также о создании детской порнографии?

Именно через подобные чаты я и вышла на бота за пять фунтов стерлингов, который создал пугающе реалистичное фото моей обнаженной натуры. Вы можете отправить фотографию любой человеки, в идеале в бикини или нижнем белье, и он "обнажит" ее за считанные минуты. Бесплатная версия бота не так уж правдоподобна. На руках появляются соски, линии виляют. Но платная часто бывает тревожаще точной. Бот был настолько хорошо обучен обнажать женское тело, что, когда я отправила ему фотографию своего парня (с его согласия), на нее наложилась пугающе реалистичная вульва.

Но насколько легко сделать еще один шаг вперед? И насколько размыта этика, когда речь заходит о "знаменитостях vs нормальных людинях" (и то, и другое является насилием)? В попытке выяснить это, я зашла в Интернет инкогнито, представившись мужчиной, который хочет “задипфейкить одну девчонку с работы”. В мгновение ока я познакомилась с BuggedBunny*, создателем порно-подделок на заказ, он рекламирует свои услуги в различных тредах и прямо говорит мне, что предпочитает делать видео с "реальными женщинами".

Когда я прошу подтвердить его мастерство, он присылает мне фотографию женщины лет двадцати пяти. У нее шоколадно-каштановые волосы, застенчивые глаза, и на снимке она явно играет роль подружки невесты. Затем BuggedBunny говорит мне, что он вставил эту фотографию в два порнографических видео.

Он прислал мне по электронной почте ссылку на видео через Dropbox: в одном подружку невесты, по-видимому (хотя и с глюками), трахают с групповухой, в другом "она" занимается оральным сексом. Хотя можно сказать, что видео сфальсифицированы, поразительно, что можно создать всего из одного легко полученного фото. Когда BuggedBunny просит меня прислать фотографии девушки, которую я хочу задипфейкить, я присылаю свои фотографии в одежде, и он немедленно отвечает: “Черт, я б на нее кончил ахах!” (мерзость) и просит единовременную выплату в размере 45 долларов. В обмен он обещает сделать столько фотографий и видео, сколько мне захочется. Он даже спрашивает, какое порно я бы предпочла. Когда я пишу: “А мы можем сделать так, чтобы ее трахнули сзади?” он отвечает: “У меня есть куча видео, которые мы можем использовать для этого, все намази”.

Я думаю о подружке невесты, о том, догадывается ли она, что кто-то хотел увидеть ее в порнографических сценах. Лучше ли быть в неведении? Было ли это сделано для того, чтобы унизить ее, с целью шантажа или просто для сексуального удовлетворения?

Похоже, эти мужчины (некоторые из которых, возможно, просто подростки: когда я спросила BuggedBunny о приложении, через которое он хотел получить перевод денег, он сказал: “Это законно! Мой папа постоянно им пользуется”) – те, кто создает и заказывает фальшивое порно, живут в онлайн-мире, где их действия не имеют реальных последствий. Но в действительности это не так. Как мы можем заставить их увидеть их?

ФАЛЬШИВОЕ ПОРНО В РЕАЛЬНОЙ ЖИЗНИ

Однажды тихим зимним днем, когда ее сын был в детском саду, 36-летняя Хелен Морт, поэтесса и писательница из Южного Йоркшира, очень удивилась дверному звонку. Был карантин; она не ожидала ни гостей, ни посылок. Когда Хелен открыла дверь, там стоял знакомый мужчина, выглядевший встревоженным. “Я подумала, что кто-то умер”, – объясняет она. Но то, что она услышала, было новостью, которую она никак не могла предвидеть. Он попросил разрешения войти.

“Я недавно был на порносайте и увидел... твои фотографии там”, – мрачно сказал мужчина, когда они сели. “И это выглядит так, как будто они лежали онлайн в течение многих лет. Ваше имя тоже указано в титрах”.

Поначалу она была сбита с толку; на ум пришли слова "порно из мести" (когда обнаженные фотографии или видео публикуются без согласия). Но Хелен никогда раньше не делала нюдсов, не говоря уже об отправке их другому человеку, который был бы достаточно бессердечен, чтобы опубликовать их. Так что, конечно же, было совершенно невозможно, чтобы это могла быть она?

“В тот день я узнала, что такое ”дипфейк", – рассказывает мне Хелен. Одно из ее незаконно использованных изображений было сделано, когда она была беременна. В другом случае кто-то даже добавил ее татуировку к телу, к которому было приделано ее лицо.

Несмотря на то, что изображения были поддельными, это не уменьшило глубокого воздействия, которое их существование оказало на жизнь Хелен. “Ваша первоначальная реакция – стыд и страх. Я не хотела выходить из дома. Я помню, как шла по улице, не в силах ни с кем встретиться взглядом, потому что была уверена, что все это видели. Вы чувствуете себя беззащитной. Гнев еще спит”.

Никто так и не был пойман. Хелен пришлось в одиночку разбираться с последствиями. “Я замкнулась в себе на несколько месяцев. Я все еще принимаю большую дозу антидепрессантов, чем до того, как все это случилось”. После заявления о случившемся в полицию, та поначалу оказывала ей поддержку, но позднее дело было прекращено. Аноним, создавший дипфейк, никогда не писал ей лично, устраняя любые возможные причины для домогательств или намерения причинить страдание.

В конце концов она нашла в себе силы написать стихотворение, в котором подробно описала свой опыт, и инициировала петицию, призывающую пересмотреть законы о абьюзе на основе изображений; невероятно трудно привлечь кого-то к ответственности за фейк на основе сексуализированного насилия (даже если это так и есть: цифровое сексуализированное насилие). Больше шансов добиться успеха в иске о диффамации, нарушении неприкосновенности частной жизни или прав на изображение.

В отличие от Хелен, в одном редком случае 32-летняя Дина Мухандес из Брайтона смогла найти мужчину, который загрузил ее поддельные фото на порносайт еще в 2015 году. “Некоторые были явно фальшивыми, на них была изображена я с гигантской грудью и прилепленной головой, другие можно было принять за настоящие. В любом случае, это было унизительно, – размышляет она. – И ужасно, думаешь ты, почему кто-то мог сделать с тобой что-то подобное? Даже если это ненастоящие фотографии или они не реалистичны, человек преследует цель – заставить кого-то чувствовать себя некомфортно. Это агрессивное вмешательство”.

Дина, как и Хелен, была предупреждена о случившемся подругой, которая смотрела порно. Поначалу, по ее словам, она смеялась, так как некоторые изображения были ужасно плохо отредактированы. “Но потом я подумала: "А что, если кто-нибудь увидит их и подумает, что я согласилась на их создание?" Мое имя ведь было указано на сайте”. Затем Дина посмотрела на профиль человека, который загрузил их, и поняла, что бывшая коллега тоже стала мишенью. “Я поняла, что это был парень, с которым мы обе работали. Мне правда не хотелось верить, что это был он”.

В случае с Диной полиция поначалу отнеслась ко всему серьезно и лично посетила преступника, но позже их общение прекратилось, – она понятия не имеет, привлекался ли он когда-либо к суду, но сомневается в этом. Изображения, по крайней мере, были удалены. “По всей видимости, он не выдержал и попросил помощи со своим психическим здоровьем, – говорит Дина. – Я чувствовала себя виноватой из-за этого, но знала, что должна сообщить о случившемся. Я все еще боюсь, что он может сделать это снова, и теперь, когда технология для создания фейков стала намного доступнее, я беспокоюсь, что это может случиться с кем угодно”.

И в этом вся суть. Это могло случиться с любой из нас – и мы, скорее всего, даже не узнали бы об этом, если бы, как Дина и Хелен, кто-нибудь не наткнулся на это и не рассказал нам. Или, как 25-летняя североирландская политикесса Кара Хантер, не подверглись аналогичному унижающему достоинство сексуализированному насилию. Порнографическое видео, в котором актриса с похожими волосами, но чье лицо не было показано, было распространено тысячи раз – наряду с реальными фотографиями Кары в бикини – через WhatsApp. Все это происходило в преддверии выборов, так что, хотя Кара не уверена, кто начал распространять видео и говорить людям, что на нем она, предположительно, это было политическим ходом.

“Подобная тактика и поддельное порно могут отпугнуть самых лучших и умнейших женщин от выхода на поле боя”, – говорит она, добавляя, что рассказать отцу о случившемся было одним из худших моментов в ее жизни. “Меня даже останавливали на улице мужчины и просили сделать им минет, я получала комментарии вроде "непослушная девчонка" в Инстаграме, – а посмотришь на аккаунты этих людей, – у них есть семьи, дети. Это объективация и попытка унизить тебя с помощью сексуализации. Репутация может быть разрушена в мгновение ока”.

Кара добавляет, что хуже всего то, что "у каждого есть телефон", и все же законы диктуют, что, хотя человек не может причинить вам вред публично, он может легально "попытаться разрушить вашу жизнь онлайн". “Ложь может облететь полмира еще до того, как правда успеет обуться”.

Стоит ли тогда удивляться, что 83% читательниц Cosmopolitan сказали, что их беспокоит дипфейк порно, а 42% добавили, что сейчас они переосмысливают то, что они публикуют в социальных сетях? Но это не может быть решением проблемы, – женщины снова начинают переделывать свою жизнь в надежде остановить мужчин от совершения преступлений.

Тем не менее, мы также не можем просто закрыть глаза и надеяться, что все это вмиг исчезнет. Джинн дипфейк-порно действительно выпущен из бутылки (это также симптом более широкой проблемы: по оценкам экспертов Европола, к 2026 году 90% всех потребляемых нами медиа могут быть созданы искусственно). Почти каждая двадцатая читательница Cosmopolitan сказала, что она или кто-то из ее знакомых была вставлена в фальшивый сексуализированный сценарий. Но каков же ответ? Сайтам сложно отслеживать дипфейки, – и даже когда изображения быстро удаляются, все равно есть все шанс, что они были заскринены и опубликованы в другом месте.

Отвечая на вопрос, реддит сказал Cosmopolitan: "У нас есть четкие правила, которые запрещают делиться интимными или откровенными фотографиями человеки, созданными или размещенными без ее разрешения. Мы будем продолжать удалять контент, нарушающий нашу политику, и принимать меры против пользователей и сообществ, которые ведут себя подобным образом".

Беседа с ведущим экспертом дипфейков Генри Аджером о том, как мы можем защитить себя – и что необходимо изменить, – открывает нам глаза. “Я редко видел, чтобы знаменитости мужского пола становились мишенью, а если это и происходит, то обычно со стороны гей-сообщества. По моим оценкам, жертвами дипфейк-порно стали уже десятки миллионов женщин”. Он добавляет, что секс, доверие и технологии будут только еще больше переплетаться, и ссылается на тот факт, что теперь существуют бордели виртуальной реальности. “Лучшее, что мы можем сделать – это попытаться загнать этот тип поведения в более темные уголки интернета, чтобы люди – особенно дети и подростки – не натыкались на него”.

В настоящее время законодательство Великобритании гласит, что создание поддельного порно не является преступлением (хотя в Шотландии его распространение может рассматриваться как незаконное, в зависимости от намерений), но компаниям рекомендуется удалять такие материалы (если есть отдельная жертва), когда они отмечены, в противном случае они могут столкнуться с наказанием от Ofcom. Но интернет – это большое пространство, и контролировать его практически невозможно. В этом году Правовая комиссия работает над законопроектом о безопасности в интернете. Комиссия желает, чтобы дипфейк-порно было признано преступлением, но для этого предстоит пройти долгий путь: а) принятия этого закона и б) обеспечения его исполнения.

До тех пор нам нужна комбинация инвестиций и усилий технологических компаний для предотвращения и выявления подделок, наряду с этими (надеюсь, грядущими) и более жесткими законами. Но даже это по взмаху волшебной палочкой всё не исправит. Несмотря на то, что мы каждый день проводим часы в сети, как общество, мы все еще склонны думать об "онлайн" и "оффлайн" как о двух отдельных мирах, – но это не так."Онлайн" наша мораль может быстро искажаться, поскольку преступления часто остаются безнаказанными, и хотя в "реальном мире" могут действовать законы, которые в какой-то степени защищают нас, мы все еще нуждаемся в радикальном пересмотре того, как общество относится к женскому телу.

Дипфейк-порно – это тяжкий гвоздь в крышку гроба равенства и контроля над собственным имиджем; даже если вы никогда в жизни не снимались обнаженными (что, кстати, вы должны иметь право делать, не опасаясь утечки информации или взлома), вы все равно можете стать мишенью и ваша сексуальность может быть использована против вас. Не пора ли нам сосредоточиться на том, чтобы по-настоящему отфотошопить этот сюжет?

Что делать, если вы стали жертвой дипфейк-порно

1. Обратитесь на Горячую линию порно-мести (позвоните по телефону 0345 6000 459 или напишите на электронную почту help@revengepornhelpline.org.uk), они могут предложить вам эмоциональную поддержку и посоветовать, каковы следующие наилучшие шаги.

2. Свяжитесь с компанией Stop Non-Consensual Intimate Image Abuse, которая сможет помочь вам создать прецедент для удаления изображений из Интернета. У них 90% успеха в удалении порнографических изображений из мести.

3. Сделайте скриншоты в качестве доказательства и, если вам это удобно, сообщите о случившемся в полицию. К сожалению, хотя законы все еще непрочны, все же стоит занести что-то в протокол и посмотреть, чем они могли бы помочь. Если преступник известен, у властей могут быть основания связаться с ним.

Прим. ред.: первые два пункта актуальны преимущественно для жительниц Европы/США. В России вы можете обратиться за юридической консультацией и/или поддержкой в центры АННА и ИНГО. Не бойтесь, что помешаете или отберете время/силы/внимание у других женщин, обращающихся в кризисные центры. Порноместь – это преступление, и ваши чувства и переживания не должны быть преуменьшены из-за остальных женщин, попавших в беду из-за мужского насилия

Источник: m.vk.com

Комментарии: