Surveillez votre bouche, Anon  : l'outil d'IA "Call of Duty" punit des millions de joueurs toxiques

  • Activision a mis en place un outil d'IA appelé ToxMod pour lutter contre la toxicité dans les jeux Call of Duty, et a déjà puni plus de 2 millions de joueurs toxiques.
  • ToxMod peut identifier les comportements perturbateurs dans plusieurs langues et voir une réduction significative des cas graves depuis son déploiement.
  • Les joueurs qui enfreignent le code de conduite de Call of Duty peuvent être privés de certaines fonctionnalités sociales et Activision encourage activement les signalements des comportements perturbateurs.

Le géant du jeu vidéo Activision a révélé les premiers résultats de son outil de modération d'IA pour Call of Duty qu'il a publié l'année dernière, y compris plus de 2 millions de comptes qui ont vu « l'application dans le jeu d'un chat vocal perturbateur » depuis la mise en œuvre de ToxMod en août.

Modern Warfare III et Call of Duty : Warzone.

a déclaré la société, ajoutant que le signalement actif reste essentiel.

Surveillez votre bouche, Anon  : l'outil d'IA

En 2023, l’intelligence artificielle a pris d’assaut le monde et plusieurs secteurs (y compris le jeu) ont cherché des moyens d’exploiter cette technologie. La société mère d'Activision, Microsoft, a ajouté des outils d'IA générative à ses applications Office et Xbox.

environ 50 % du nombre de joueurs exposés à de graves cas de chat vocal perturbateur depuis le lancement de #MW3.

ToxMod a commencé à porter ses fruits presque immédiatement, a déclaré la société, ce qui lui a permis de faire évoluer son approche de modération. Activision a déclaré avoir constaté une réduction d'un mois à l'autre du nombre de récidivistes de sa politique en ligne depuis l'introduction du modèle d'IA.

« Call of Duty a constaté une réduction de 8 % des récidivistes depuis le déploiement de la modération du chat vocal dans le jeu », indique le rapport. « Toute personne détectée comme ayant enfreint le code de conduite se verra appliquer des actions telles que la mise en sourdine globale du chat vocal et textuel et/ou la restriction d'autres fonctionnalités sociales. »

Activision a également souligné une réduction de 50 % des « cas graves » de chat vocal perturbateur depuis le lancement de Modern Warfare III.

Pour les joueurs qui avaient besoin d'un rappel sur ce qui pourrait conduire à ce que leur compte soit signalé, Activision a noté une mise à jour du code de conduite de Call of Duty que les joueurs en ligne sont censés suivre.

Dans « Traitez tout le monde avec respect », Activision a réitéré sa position visant à réprimer les discours toxiques, y compris une politique de tolérance zéro pour l'intimidation et le harcèlement, ainsi que les remarques désobligeantes liées à la race, à l'identité ou à l'expression de genre, à l'orientation sexuelle, à l'âge, à la culture. la foi, les capacités mentales ou physiques, ou le pays d'origine.

«