Meta и китайский партнер оказались в центре скандала из-за рекламы ИИ-раздевалок

История вокруг генеративного искусственного интеллекта получила новое продолжение, причем в центре внимания оказалась не очередная нейросеть, а крупнейшая рекламная платформа мира. Meta, которая последние два года активно заявляет о борьбе с дипфейками и интимными изображениями без согласия людей, столкнулась с обвинениями в том, что ее сервисы Facebook и Instagram месяцами показывали рекламу приложений, способных создавать поддельные обнаженные фотографии. Скандал быстро вышел за рамки обычной ошибки модерации и поставил вопросы о том, насколько эффективно технологические гиганты контролируют собственные рекламные экосистемы.

Когда речь заходит о дипфейках, обычно обсуждают уже опубликованные изображения или видеоролики, замечает xrust. Однако исследователи из американской организации Tech Transparency Project (TTP) решили посмотреть на проблему с другой стороны — кто помогает подобным сервисам находить новую аудиторию. Результаты оказались неожиданными.

По данным TTP, в течение нескольких последних месяцев в рекламной библиотеке Meta были обнаружены около 7600 рекламных объявлений, продвигавших мобильные приложения, использующие технологии искусственного интеллекта для создания интимных изображений и видеороликов. Некоторые объявления выглядели почти безобидно, но сопровождались характерными слоганами вроде «Создайте видео с любым лицом» и фотографиями молодых женщин в откровенных позах. Для пользователя это выглядело как реклама очередного ИИ-сервиса, хотя фактически речь шла об инструментах, позволяющих создавать дипфейки сексуального характера.

Особое внимание исследователи уделили не только самим объявлениям, но и тому, кто их размещал. Значительная часть рекламных кампаний, как утверждается в отчете, проходила через китайскую компанию GatherOne. Она давно работает с международными рекламными платформами и помогает предприятиям из Китая продвигать свои продукты за пределами страны. На корпоративном сайте Meta GatherOne входит в число одиннадцати официальных партнеров, сопровождающих рекламные кампании китайских клиентов на зарубежных рынках.

Сам по себе этот факт не означает нарушения правил. Facebook и Instagram в материковом Китае заблокированы уже много лет, однако китайские производители электроники, разработчики игр, интернет-магазины и другие компании продолжают покупать рекламу в сервисах Meta для продвижения товаров по всему миру. Именно поэтому вокруг таких посредников сформировался крупный международный бизнес.

В GatherOne подчеркивают, что работают не только с разработчиками мобильных приложений. Среди клиентов компании — представители игровой индустрии, электронной коммерции, развлекательного сектора и финансового рынка. В ответ на вопросы журналистов компания заявила, что придерживается политики нулевой терпимости к мошенничеству, эксплуатации детей, материалам сексуального характера и любому использованию искусственного интеллекта для создания интимного контента без согласия человека.

После появления вопросов вокруг расследования GatherOne сообщила, что прекращает создание новых рекламных аккаунтов для сервисов, связанных с ИИ-раздеванием и заменой лиц, а также проводит внутреннюю проверку правил размещения рекламы с учетом развития технологий синтетических медиа.

В Meta также отвергли обвинения в бездействии. В компании напомнили, что правила рекламной платформы запрещают продвижение сервисов, создающих интимные изображения без согласия людей, а рекламодатели обязаны соблюдать единые стандарты независимо от страны происхождения. По словам руководителя направления политики безопасности женщин Синди Саутворт, корпорация последовательно удаляет подобный контент и блокирует нарушителей, если они обходят существующие ограничения.

Однако авторы расследования считают, что практика расходится с официальными заявлениями. Директор Tech Transparency Project Кэти Пол заявила, что обнаруженные рекламные кампании создают впечатление, будто один из крупнейших китайских рекламных партнеров Meta длительное время пользовался куда более мягким отношением со стороны платформы, чем это следует из публичной политики компании. По ее мнению, подобные случаи подрывают доверие к заявлениям корпорации о борьбе с сервисами, создающими интимные дипфейки.

Особый резонанс вызвал один из изученных исследователями сервисов — приложение BAfter для Android. Оно рекламировалось как очередной инструмент обработки изображений, однако, по данным TTP, внутри существовал раздел для обмена материалами с технологией замены лиц. Пользователи магазина Google Play оставляли отзывы, в которых утверждали, что сталкивались с крайне сомнительным контентом, включая возможные материалы с участием несовершеннолетних. Разработчик публично эти обвинения не комментировал.

Важно, что приложение исчезло из Google Play 21 июля, еще до публикации расследования. Позже GatherOne сообщила, что навсегда прекратила рекламное обслуживание организации, связанной с этим сервисом. В Meta также подтвердили блокировку BAfter и ряда других приложений, ссылки на которые больше не допускаются к размещению в рекламной сети компании.

Почему история с ИИ-раздевалками стала проблемой для всей индустрии

Скандал вокруг рекламы подобных приложений оказался не только вопросом качества модерации. Он затронул более глубокую проблему: скорость развития генеративного ИИ оказалась выше, чем способность интернет-платформ создавать эффективные механизмы контроля.

Еще несколько лет назад создание реалистичного поддельного изображения требовало сложного программного обеспечения и специальных навыков. Сегодня подобные инструменты доступны практически любому пользователю смартфона. Достаточно нескольких фотографий человека из социальных сетей, чтобы получить изображение, которое может выглядеть убедительно для окружающих.

Особенно уязвимой группой стали подростки. Исследование Университета Джорджа Мейсона, в котором приняли участие 557 подростков из США, показало масштаб проблемы: более половины опрошенных заявили, что пользовались инструментами генерации изображений с искусственным интеллектом — для создания картинок себя или других людей. Более трети участников сообщили, что сами становились жертвами подобных технологий.

По словам исследователей цифровой криминалистики, многие подростки уже знают, где искать такие сервисы: они распространяются не только через магазины приложений, но и через сайты, мессенджеры и закрытые сообщества. Поэтому простое удаление отдельных программ не решает проблему полностью.

Китайский рынок остается важным источником дохода Meta

История с GatherOne приобрела дополнительный вес из-за финансового значения китайского направления для Meta.

Хотя жители Китая не имеют официального доступа к Facebook и Instagram, китайские компании активно используют рекламные инструменты американской корпорации для выхода на зарубежных покупателей. По данным Meta, ее выручка в Китае за 2024 год составила 18,4 млрд долларов — около 11% всей мировой выручки компании. Этот показатель более чем в два раза превышает уровень 2022 года.

Именно поэтому любые вопросы, связанные с китайскими рекламными партнерами, становятся для Meta не только репутационной, но и финансовой проблемой.

Дополнительный контекст появился после публикации расследования Reuters в декабре. Тогда агентство сообщало, что около 19% рекламной выручки Meta в Китае в 2024 году могло приходиться на объявления, связанные с запрещенными категориями — мошенничеством, незаконными азартными играми и порнографическим контентом. В числе компаний, которые упоминались в связи с подобными рекламными схемами, фигурировала и GatherOne.

Meta тогда заявляла, что уделяет большое внимание борьбе с нарушающей правила рекламой и постоянно совершенствует системы проверки.

Старые вопросы о работе Meta с Китаем

Новый скандал также напомнил о прежних спорах вокруг отношений Meta и китайского рынка.

Бывший директор компании по государственной политике Сара Уинн-Уильямс, позже ставшая информатором, в прошлом году выступала перед Конгрессом США. Она утверждала, что Meta на протяжении многих лет предлагала Китаю инструменты цензуры и помогала стране продвигаться в гонке вооружений в области искусственного интеллекта против США.

Позже Уинн-Уильямс подробно описала свой опыт работы в компании в книге «Careless People», опубликованной в 2025 году. Ее заявления Meta ранее отвергала, однако сама тема взаимодействия американских технологических гигантов с китайским рынком остается одной из самых чувствительных в отрасли.

Теперь к политическим и экономическим вопросам добавилась проблема искусственного интеллекта и ответственности за распространение опасных инструментов.

Регуляторы пытаются догнать технологии

Правительства разных стран постепенно начинают реагировать на новую реальность.

В США в прошлом году был принят закон Take It Down, который вводит ответственность за публикацию интимных материалов без согласия человека и обязывает интернет-платформы удалять подобный контент. Федеральная торговая комиссия начала применять нормы закона весной.

Однако эксперты считают, что законодательство сталкивается с той же проблемой, что и платформы: технологии меняются быстрее, чем появляются новые правила.

Если раньше главным вопросом было, почему социальная сеть не удалила уже опубликованный материал, то теперь возникает другой вопрос — почему рекламная система вообще позволила продвигать инструменты для создания такого контента.

ИИ меняет правила игры для рекламных платформ

История Meta показывает, что проблема искусственного интеллекта уже вышла далеко за пределы разговоров о красивых изображениях, генерации текста или новых цифровых помощниках.

Для рекламных платформ новая реальность означает необходимость проверять не только содержание объявления, но и сам продукт, который оно продвигает. Приложение может выглядеть как обычный редактор фотографий, но скрывать функции, способные создавать опасный синтетический контент.

По данным исследователей, приложения, которые изучала TTP, в общей сложности получили более 2,5 млн загрузок по всему миру. Это означает, что речь идет не о единичных экспериментах разработчиков, а о сервисах с реальной аудиторией.

Meta уже заявила о блокировке части таких приложений и усилении контроля за рекламой. GatherOne сообщила о пересмотре собственной политики. Однако сам факт появления тысяч объявлений показывает, что существующие фильтры пока не успевают за развитием генеративного ИИ.

Для технологических компаний это становится новым испытанием: борьба идет уже не только за внимание пользователей, но и за доверие к цифровой среде, где граница между настоящим изображением и искусственной подделкой становится все менее заметной.

По материалам https://www.bloomberg.com

Xrust: Meta и китайский партнер оказались в центре скандала из-за рекламы ИИ-раздевалок