Новая система снизила токсичное поведение в играх Blizzard

В прошлом году компания Blizzard сообщила, что начала использовать машинное обучение ИИ для модерации чата в онлайн-шутере Overwatch. Президент Blizzard Дж.Аллен Брэк рассказал в новом видео из серии Fireside Chat, что эта технология привела к сильному снижению токсичного поведения.

По мнению компании, в играх должна складываться позитивная атмосфера для всех, независимо от их идентичности или происхождения. Система машинного обучения позволяет проверять отчеты игроков об оскорбительном поведении быстрее, чем это делали бы обычные модераторы. Система используется некоторое время в Overwatch и в Heroes of the Storm.

ИИ позволяет нам быстрее назначать штрафы за поведение, и мы наблюдаем невероятное снижение не только токсичности чатов, но и общее снижение числа повторных правонарушений. Несколько месяцев назад мы расширили эту систему до общедоступных каналов World of Warcraft, мы уже видели сокращение токсичного поведения в два раза, и мы продолжаем улучшать скорость и точность этой системы.

Blizzard также недавно ужесточила наказания за токсичное поведение в Overwatch и добавила более гибкие фильтры ненормативной лексики, которые предлагают три уровня “принятого языка”. Каждый из них можно настроить дополнительно.

Это небольшие шаги, но они могут привести к серьезным изменениям. Борьба с агрессивным поведением и поощрение инклюзивности во всех наших играх и на наших рабочих местах всегда будут для нас важны.

#Игры #Games
Источник