Blizzard будут бороться с токсичными игроками с помощью умных алгоритмов.

Blizzard будут бороться с токсичными игроками с помощью умных алгоритмов.

«Мы проводим эксперименты с машинным обучением, — рассказал Джефф Каплан в интервью изданию Kotaku. — Пытаемся научить систему определять токсичное поведение в чате, и это весело».

Сейчас для выявления и наказания токсичных игроков используется система жалоб, однако не все игроки верят в нее и пользуются ей. Поэтому разработчики хотят, чтобы система сама определяла нарушителей. Причем в будущем она сможет замечать токсичное поведение не только в чате, но и в самой игре (например, если Мэй закрывает своих тиммейтов стенкой на респе).

Разумеется, алгоритмы могут ошибаться, ведь они не всегда понимают контекст. Например, могут одинаково посчитать нарушением настоящую ругань незнакомых игроков и шутливую перепалку друзей. Поэтому Каплан пояснил, что искусственный интеллект будет обращать внимание только на совсем недопустимые случаи. При этом алгоритмы не смогут анализировать личную переписку. Если ИИ обнаружит нарушение, он сначала отметит его и примет меры только в случае повторных нарушений. Система уже тестируется на других языках, помимо английского, например, на корейском.

Blizzard планируют развивать не только систему жалоб. Они думают о будущем и о возможной системе поощрений дружелюбных и хороших игроков, но пока что никаких деталей сообщить не могут.

Источник: kotaku.com

Комментарии: