Российская соцсеть "Одноклассники" внедрила модель машинного обучения для временного ограничения пользователей, которые оставляют оскорбительные комментарии

Российская соцсеть "Одноклассники" внедрила модель машинного обучения для временного ограничения пользователей, которые оставляют оскорбительные комментарии. Технология на основе искусственного интеллекта (ИИ) позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

По данным опроса, проведенного ОК, негативные посты злят более чем 40% пользователей. Модель на основе ИИ обучалась на 400 тыс. высказываний, которые несли недружелюбный характер и провоцировали негативные дискуссии.

Кроме того, новая технология позволила сократить время обработки жалоб на токсичные посты сразу в три раза. Как отметил директор по продукту ОК Александр Москвичев, треть всех жалоб на платформе была связана с негативными комментариями, а 80% обращений в службу поддержки сегодня касаются токсичности.

На сегодняшний день ИИ прекрасно умеет читать и понимать написанный текст, говорит в беседе с "Известиями" руководитель Лаборатории стратегического развития продуктов кибербезопасности Аналитического центра кибербезопасности "Газинформсервис" Дмитрий Овчинников. Кроме того, искусственный интеллект способен очень хорошо понимать текст с точки зрения смысловой нагрузки, контекста слов и даже скрытого смысла.

Источник: vk.com

Комментарии: