Россия — чемпион мира по травле в сети. Что с этим делать?

МЕНЮ


Искусственный интеллект. Новости
Поиск

ТЕМЫ


Внедрение ИИНовости ИИРобототехника, БПЛАПсихологияТрансгуманизмЛингвистика, обработка текстаБиология, теория эволюцииВиртулаьная и дополненная реальностьЖелезоКиберугрозыНаучный мирИТ индустрияРазработка ПОТеория информации

RSS


RSS новости

Авторизация



Новостная лента форума ailab.ru

Чтобы столкнуться с буллингом, или травлей, не нужно выходить из дома — буллеры давно переехали в интернет. К международному дню терпимости, который отмечают 16 ноября, соцсеть «ВКонтакте» вместе с ЮНЕСКО объясняют, чем опасен кибербуллинг и как можно защитить от него своего ребёнка.

Кто-то оскорбил вас в комментариях, стал угрожать в сообщениях. Или ещё хуже — опубликовал личную информацию о вас с предложением интим-услуг. А ещё среди популярных у подростков способов поиздеваться — устроить публичный бойкот в группе, взломать аккаунты и разослать письма друзьям от имени жертвы. Кибербуллинг может серьёзно навредить психике ребёнка. Депрессия, заниженная самооценка, мысли о суициде — последствий много.

Исследование Microsoft (2016) показало, что 65% взрослых и подростков сталкивались с кибербуллингом. При этом подростки подвержены травле в интернете чаще взрослых. В Европе примерно 12% детей в возрасте от 9 до 16 лет становятся жертвами кибербуллинга. И в половине случаев преследуемые в сети подростки знают о травле и в реальной жизни.

«Главное отличие кибербуллинга от других видов травли — анонимность буллера. В сети можно писать под любым именем и профилем, и вычислить, что под профилем Васи, который учится на третьем курсе физтеха, на самом деле скрывается Максим из соседнего подъезда — очень сложно. Снижается вероятность быть пойманным, а значит, исчезает и чувство ответственности за свой поступок, поскольку агрессор не сталкивается лицом к лицу со своей жертвой».

Юлия Плахутина, координатор проектов Института по информационным технологиям в образовании ЮНЕСКО

Российские школьники в среднем в полтора-три раза чаще своих сверстников из стран Европы и Северной Америки по себе знают, что такое травля в интернете. Россия оказалась на первом месте из 42 стран по кибербуллингу среди детей 11 лет: 11% девочек и 8% мальчиков получали сообщения с оскорблениями не менее 2-3 раз в месяц (по исследованию Всемирной организации здравоохранения 2014 года). За Россией идёт Гренландия (6% девочек и 12% мальчиков) и Литва (8% девочек и 9% мальчиков). Те, кому 13 и 15 лет, с травлей сталкиваются реже.

4 новых технологии борьбы с кибербуллингом

В России кибербуллингу пока что уделяют не так много внимания, как в Европе. Хотя именно в России это необходимо. В соцсети «ВКонтакте» стараются следить (и вовремя удалять) материалы, которые призывают к жестокости и насилию. Модераторы реагируют на жалобы пользователей в течение нескольких минут, максимум часа. Есть и внутренняя модерация: машинный поиск запрещённого контента на всём сайта, который автоматически блокируется. На последнем хакатоне «ВКонтакте», который проходил в октябре, сразу 5 команд представили проекты по борьбе с кибербуллингом, разработанные вместе с Институтом ЮНЕСКО по информационным технологиям в образовании.


Участники хакатона «ВКонтакте», 2017 год

1. PyTido: бот, который ищет буллера

Лучшим проектом хакатона стал PyTidor — это нейронная сеть, обученная распознавать токсичные комментарии, и чат-боты, которые умеют делать предупреждения и блокировать пользователей. Идея проекта: создание модели, которая могла бы сама определять проявления кибербуллинга (или троллинга). Этих ботов можно добавлять в диалог, они будут автоматически распознавать агрессию, оскорбления и даже отвечать на них. Более того, если какой-то человек начнёт вести себя плохо, бот сообщит об этом администратору чата.

«Наш проект — первая попытка в России решить проблему кибербуллинга методами машинного обучения. В идеале, при большом количестве тренировочной информации, наша модель сможет практически безошибочно распознавать то, что нужно».

Максим Артемьев, капитан команды SNA

2. Рой-баттл: возможность поучаствовать в травле (но никого не обидеть)

Участники команды «Рой» разработали на хакатоне «Рой-баттл» — чат-бот для Telegram, который моделирует словесный поединок (всё цензурно) между двумя игроками. За битвой наблюдают зрители, которые могут оценить их панчи с помощью специальных стикеров («маму не трожь», «жир — это ты», «куча расовой нетерпимости» и других). По сути, зрители контролируют ход поединка и устанавливают рамки дозволенного. Всё это анонимно и безопасно: найти своего оппонента после игры невозможно. Идея «Рой-баттла»: чтобы каждый участник побывал в роли агрессора и жертвы. В игре есть правила (например, не оскорблять родителей), за их нарушение игрока штрафует. В конце, как и в настоящих рэп-баттлах, участники виртуально жмут друг другу руки.

«Я бывал свидетелем травли в школе. И большинство людей, которые были роли агрессоров, просто не понимали, что делают что-то неправильное, их поведение было связано с банальной скукой. Про проблему кибербуллинга говорят очень редко и мало. У подростков важно формировать понимание, что соцсети и мессенджеры — это уже часть не виртуальной, а реальной жизни. Любые действия там имеют последствия».

Денис Раевский, участник хакатон-команды «Рой»

3. BullGuard: умный поиск слов-паразитов и оскорблений

В основе проекта — алгоритм для поиска негативного, «буллингового» контента. При выявлении такого контента в сообщениях (личных сообщениях, в комментариях пользователей, в чат-переписках и так далее), происходит обработка и автоматическое его превращение в нейтральный, небуллинговый контент. Главный принцип: «человеку, у которого сгорела квартира, не нужно давать одеяло, нужно сделать так, чтобы не дать его квартире загореться».

Работает так: найденные токсичные сообщения не удаляются, а пользователь не блокируется. Но сами сообщения изменяются так, чтобы в другой, более мягкой форме, донести их смысл. По сути «BullGuard» — сервис по оценке и очистке текста от негативного контента и слов-паразитов.

Пример: «Олег, дурак, где макет?» –> «Олег, где макет?». Сервис оценивает первое сообщение так: оскорбление — 5%; раздражение — 5%; агрессия — 2%; негатив — 0%. А дальше сводит всё до нулевых показателей. Так что основной смысл остаётся, сообщение отправляется, адресат его видит. Только без негатива. Такое решение помогает разобраться в проблеме без конфликтов.

«Сталкивались, видели, знаем. Преследователю сложно понять, что травля, агрессия, ненависть не помогают решить ситуацию, а дают лишь временную иллюзию и чувство внутреннего успокоения до тех пор, пока не проснётся совесть. Жертве ещё труднее не принимать близко к сердцу слова завистников, троллей, вредителей, хейтеров и так далее. Такие люди были, есть и думаю, какое-то время ещё будут».

Виктор Козинин, участник команды «Обычные люди, делающие нормальные вещи»

4. Amanda: поиск жертв буллинга

Команда PsyReinforsement задумала сделать сервис, который помогал бы школьным психологам (и не только) в борьбе с кибербуллингом. Проект назвали «Amanda» — в честь 15-летней Аманды Тодд из Канады, которая в 2012 году после длительной травли в интернете покончила с жизнью. Аманда стала символом борьбы с кибербуллингом, а её мать организовала фонд для помощи подросткам, которые стали жертвами интернет-травли.

В сервисе Amanda три раздела: информация, новости и аналитика. С помощью аналитики можно анализировать открытую информацию страниц «ВКонтакте». Есть ли там оскорбления, мат и так далее. По задумке школьные психологи смогут своевременно находить ребят, которым может быть нужна помощь. В базе более 7000 оскорбительных слов и выражений, которые сервис ищет даже по картинкам.

«Кибербуллинг — это страшно. У участников нашей команды разный опыт. Кто-то был наблюдателем, кто-то жертвой. Ты никогда не знаешь, кто находится „на том конце“, кто твой реальный противник и каковы его возможности. Кибербуллинг — продолжение обычного буллинга, с пинками и подзатыльниками, только на расстоянии. Это пожизненная травма, которой, честно говоря, не хочется делиться».

Руслан Чинцов, капитан команды PsyReinforsement

В 2018 году Институт ЮНЕСКО по информационным технологиям в образовании и «ВКонтакте» планируют создать приложение для анонимной психологической помощи в социальной сети. Специалисты считают важным, чтобы жертвы кибербуллинга могли с кем-то открыто поговорить о своём опыте.

«Хорошо, если рядом есть родители, друзья. Но чаще мы видим другую картину: по данным исследования ЮНЕСКО, 62% опрошенных пользователей не знали или не были уверены, где можно получить помощь и поддержку в случае кибербуллинга. Мы надеемся, что наш проект сможет внести вклад в решение данной проблемы».

Юлия Плахутина, координатор проектов Института по информационным технологиям в образовании ЮНЕСКО

4 простых совета, как оградить ребёнка (и себя) от буллеров в сети

Мы используем файлы cookie, чтобы улучшить работу и повысить эффективность сайта.

Продолжая пользование данным сайтом, вы соглашаетесь с использованием файлов cookie.


Источник: mel.fm