Компания Sensity, которая специализируется на информационной безопасности, обнаружила сеть Telegram-ботов, которые генерируют дипфейки с обнажённой натурой по произвольным фотографиям женщин (отчёт Sensity). По данным на июль 2020 года боты DeepNude сгенерировали фотографии примерно 104 000 женщин. Примеры работы DeepNude можно посмотреть в репозиториях на GitHub: входящее изображение и результат.
За последние три месяца объём заказов увеличился почти в три раза. Расследование показало, что большинство клиентов просят сделать обнажённые фотографии не знаменитостей, а собственных знакомых девушек, которых знают в реальной жизни. Возможно, некоторые клиенты сервиса — подростки. По крайней мере, на «определённом количестве» фотографий изображены несовершеннолетние дети, пишет Sensity.
В опубликованном отчёте содержатся некоторые факты по аудитории ботов. Около 70% пользователей — из России и окружающих стран. Как сообщается, в России бот также работает в сети VK. Из англоязычных стран пользователей пока мало.
Боты обычно работают бесплатно, но вставляют на фотографии водяные знаки. Пользователи могут покупать «премиальные монеты», которые удаляют водяной знак и ускоряют обработку. Ценовая политика довольно запутанная. Тариф «Новичок» стоит 37 монет, то есть 100 рублей, и даёт 100 фото на 7 дней. Подключить тариф «Новичок» можно только один раз. В дальнейшее время премиум-доступ стоит дороже. Стоимость одной монеты «Обработка одной фотографии в премиум режиме» составляет 4 рубля. Sensity пишет, что в основе ботов лежит опенсорсный движок DeepNude. Эта система машинного обучения получила известность в июне 2019 года, когда мобильное приложение для раздевания женщин приобрело настолько большую популярность, что разработчики решили закрыть проект. До этого несколько дней серверы DeepNude безуспешно пытались справиться с наплывом трафика, программа глючила во всех версиях, а онлайновое демо не работало. Однако некоторым журналистам удалось скачать клиент, купить премиум-версию за $50 и проверить программу на российских знаменитостях, а также на мужчинах.
Предположительно, программу разработала небольшая группа программистов из Эстонии. «Я не извращенец, я технологический энтузиаст. И продолжаю совершенствовать алгоритм. На фоне неудач с другими стартапами я спросил себя: могу ли я получить с этого экономическую отдачу? И запустил приложение. Я спрашивал у себя, правильно ли я поступаю. Но то же самое можно сделать и в фотошопе, просто за несколько часов, а у меня за 30 секунд. Это просто забавный эксперимент. Если у кого-то плохие намерения с этими фото, то я тут ни при чём. Если не я это сделаю, то кто-то другой», — говорил Альберто, автор программы, в интервью изданию Vice. 19 июля 2019 года лицензия на DeepNude была продана за $30 000, затем программное обеспечение подверглось реверс-инижинирингу и в различных формах попало в репозитории с открытым исходным кодом и на торренты.
На локальном компьютере DeepNude требует мощной системы и GPU. Однако вся экосистема ботов Telegram работает с онлайн-серверов, так что сервис доступен любому человеку с телефоном. Это одна из главных причин такой популярности ботов, считает Sensity.
Возможно, это довольно примитивное «эротическое» приложение стало первым коммерчески успешным применением машинного обучения для обработки изображений. Это напоминает шутку о том, что порно является двигателем технического прогресса.
