Представители YouTube в официальном блоге выпустили (vk.cc/6WXw57) статью о противодействии террористическому контенту благодаря внедрению машинного обучения в систему

Представители YouTube в официальном блоге выпустили  статью о противодействии террористическому контенту благодаря внедрению машинного обучения в систему.

В компании отмечают, что благодаря новым технологиям за последний месяц быстродействие автоматической системы распознавания противоправного контента увеличилось в разы и зачастую автоматика даже опережает массовые жалобы от пользователей. Не забывает YouTube и о штате живых модераторов, которые отслеживают и фильтруют сомнительный контент, на который поступает много жалоб от пользователей. За последние месяцы число сотрудников для борьбы с экстремистскими роликами увеличилось.

Ранее сообщалось, что видеохостинг начал показать антитеррористические ролики для тех пользователей, в истории поиска которых слишком много подозрительного контента, связанного, к примеру, с ИГИЛ.

------------

Обновленная информация о нашей приверженности борьбе с содержанием терроризма в Интернете

Чуть более месяца назад мы рассказали вам о четырех новых шагах, которые мы предпринимаем для борьбы с террористическим контентом на YouTube: лучшее обнаружение и ускоренное удаление, вызванное машинным обучением, больше экспертов, чтобы предупредить нас о содержании, которое нуждается в пересмотре, более жестких стандартах для Видео, которые противоречивы, но не нарушают нашу политику и больше работают в области борьбы с терроризмом. Мы хотели дать вам обновленную информацию об обязательствах: Better обнаружения и быстрого удаление приводимого машинного обучения: Мы всегда использовали сочетание технологий и человеческий обзор для решения постоянно меняющиеся проблем вокруг спорного контента на YouTube. Недавно мы начали разработку и внедрение передовых технологий машинного обучения, призванных помочь нам выявить и устранить насильственный экстремизм и связанный с терроризмом контент масштабируемым образом. Мы начали внедрять эти инструменты, и мы уже видим определенный позитивный прогресс:

     Скорость и эффективность: наши системы машинного обучения быстрее и эффективнее, чем когда-либо прежде. Более 75 процентов видеороликов, снятых нами для насильственного экстремизма за последний месяц, были сняты, прежде чем получить один человеческий флаг.
     Точность: точность наших систем значительно улучшилась благодаря нашей технологии машинного обучения. Хотя эти инструменты не идеальны и не подходят для каждой настройки, во многих случаях наши системы оказались более точными, чем люди, при маркировке видео, которые необходимо удалить.
     Масштаб: за каждую минуту, загружаемую на YouTube более 400 часов, поиск и принятие мер в отношении жестокого экстремистского контента представляет собой серьезную проблему. Но за последний месяц наше первоначальное использование машинного обучения более чем удвоило как количество видеороликов, которые мы удалили для насильственного экстремизма, так и скорость, с которой мы использовали этот контент.

Этими улучшениями мы поощряем и будем продолжать развивать наши технологии, чтобы добиться еще большего прогресса. Мы также нанимаем больше людей, чтобы помогать проверять и проводить политику и продолжать инвестировать в технические ресурсы, чтобы идти в ногу с этими проблемами и решать их ответственно.

Больше экспертов: Конечно, наши системы только так хороши, как данные, на которых они основаны. За прошедшие недели мы начали работу с более чем 15 дополнительными экспертными НПО и учреждениями через нашу программу «Надежный флаг», в том числе Лигу антидиффамации, Движение за непризнание ненависти и Институт стратегического диалога. Эти организации предоставляют экспертные знания по сложным вопросам, таким как ненависть, радикализация и терроризм, которые помогут нам лучше идентифицировать контент, который используется для радикализации и привлечения экстремистов. Мы также будем регулярно консультироваться с этими экспертами, поскольку мы обновляем нашу политику, чтобы отразить новые тенденции. И с течением времени мы продолжим добавлять в нашу сеть консультантов еще больше организаций.

Более жесткие стандарты: мы скоро применим более жесткое обращение к видеороликам, которые не являются незаконными, но были помечены пользователями как потенциальные нарушения нашей политики в отношении разжигания ненависти и насильственного экстремизма. Если мы обнаружим, что эти видео не нарушают наши правила, но содержат противоречивое религиозное или супрематическое содержание, они будут помещены в ограниченное состояние. Видео будут оставаться на YouTube за промежуточным, не будут рекомендованы, не будут монетизированы и не будут иметь ключевых функций, включая комментарии, предлагаемые видеоролики и понравятся. В ближайшие недели мы начнем эту новую обработку с видео на настольные версии YouTube, и вскоре после этого она будет перенесена на мобильный. Эти новые подходы влекут за собой значительные новые внутренние инструменты и процессы и потребуют времени для полного внедрения.

Раннее вмешательство и расширение работы по борьбе с экстремизмом: мы начали внедрять функции из метода переадресации Jigsaw на YouTube. Когда люди ищут чувствительные ключевые слова на YouTube, они будут перенаправлены на плейлист с кураторами видеороликов YouTube, которые непосредственно противостоят и развенчают насильственные экстремистские сообщения. Мы также продолжаем усиливать голоса YouTube, выступая против ненависти и радикализации через нашу программу «Создатели YouTube для перемен». На прошлой неделе британская глава «Создатели перемен», «Граждане Интернета», провела двухдневный семинар для 13-18-летних, чтобы помочь им найти позитивное чувство принадлежности к сети и узнать навыки, как безопасно и ответственно участвовать в интернет. Мы также пообещали расширить охват программы до 20 000 подростков в U.K.

И в минувшие выходные мы провели наш последний семинар «Творец для перемен» в Бандунге, Индонезия, где создатели объединились с Индонезийским институтом Маарифа, чтобы научить молодых людей знанию разнообразия, плюрализма и терпимости.

В целом мы предприняли важные шаги в течение последнего месяца в нашей борьбе с онлайн-терроризмом. Но это еще не конец. Мы знаем, что всегда нужно делать больше работы. С помощью новых технологий машинного обучения, глубоких партнерских отношений, постоянного сотрудничества с другими компаниями через Глобальный интернет-форум и нашего бдительного сообщества мы уверены, что можем продолжать добиваться прогресса в отношении этой постоянно меняющейся угрозы. Мы с нетерпением ждем возможности поделиться с вами в ближайшие месяцы.

Команда YouTube

Источник: youtube.googleblog.com

Комментарии: