Yahoo будет бороться с оскорблениями и угрозами в сети

В начале этого года компания Twitter сообщила об открытии нового отдела, главной задачей которого стала борьба с излишне агрессивными и неучтивыми пользователями. Однако компания Yahoo решила пойти несколько дальше. На днях стало известно, что специалистам из Yahoo Labs удалось разработать специальный алгоритм. По предварительным данным, он является одним из лучших автоматических фильтров, призванных бороться с оскорблениями и угрозами в Интернете.

На данный момент большинство подобных автоматизированных фильтров обнаруживает неподобающие выражения, оценивая тексты и выбирая из них ключевые слова и выражения. Однако такой подход показал себя как не слишком эффективный. Пользователи быстро нашли способы обхода подобных автоматических фильтров.

При создании своего алгоритма специалисты из Yahoo Labs использовали машинное обучение. Благодаря такому подходу, новая разработка позволяет вычленять даже замаскированные оскорбления.

Согласно имеющимся данным, алгоритм от Yahoo Labs позволяет отсеять до 90% записей, содержащих оскорбления или угрозы. Однако специалисты британского Центра анализа социальных медиа считают, что подобная система пока не может быть полностью эффективна. В первую очередь это связано с тем, что многие люди по-разному воспринимают одни и те же утверждения.

Источник: 4pda.ru

Комментарии: