Échec de « Fortnite »  : Epic Games se démène pour supprimer les images racistes générées par l'IA

Suite au tollé des joueurs, Epic Games supprime les images racistes générées par l'IA téléchargées par les utilisateurs sur le populaire jeu Battle Royale Fortnite, selon un rapport de Kotaku.

L'une des fonctionnalités qui ont fait de Fortnite le jeu en ligne à succès qu'il est aujourd'hui est la possibilité pour les utilisateurs de créer leurs propres cartes et de partager des expériences jouables avec le monde. Ce débouché pour la créativité signifie cependant que les utilisateurs peuvent potentiellement télécharger du contenu problématique, ce qui s'est produit ici.

Récemment, les utilisateurs ont commencé à remarquer des cartes d’îles comportant des images grossières générées par l’IA qui perpétuent des stéréotypes racistes. Comme l’a rapporté Kotaku, des exemples de cartes incluent celles portant des noms tels que « Guerres de zones arabes », « Guerres de zones nigérianes » et « Guerres de zones chinoises ».

Les cartes présentaient des images racistes et apparemment générées par l’IA qui perpétuent les stéréotypes, notamment des hommes du Moyen-Orient tenant des bombes et des hommes noirs mangeant du poulet frit. Alors que la plupart de ces cartes avaient de petites populations de serveurs, une carte, « Jamaica Zonewars », comptait plus de 35 000 joueurs actifs au début du mois.

Epic Games a ajouté que le contenu discriminatoire n'a pas sa place dans Fortnite et viole les règles de création d'îles de l'entreprise, ajoutant que les utilisateurs qui enfreignent ces directives pourraient voir leur compte définitivement banni.

îles et nos programmes de formation à la modération pour minimiser le nombre de cartes en violation qui atteignent les joueurs », a déclaré Epic Games. « Nous encourageons les joueurs à signaler toute île qu'ils voient qui pourrait enfreindre nos règles. »

Dans une déclaration fournie au GG de Decrypt, Epic Games a déclaré que toutes les îles créées par les utilisateurs étaient examinées par les modérateurs avant la publication, mais a déclaré que l'équipe y apportait une touche légère.

L'éditeur a ajouté qu'il travaillait sur la mise à jour de ses « règles de création d'îles et programmes de formation de modération ».

S'associant à l'engouement pour l'IA générative, l'Epic Games Store a commencé à autoriser les jeux et les soumissions comportant des œuvres d'art et d'autres éléments de l'IA en septembre. Cela s'est produit après que le marché rival des jeux sur PC, Steam, ait initialement pris position contre le contenu de l'IA, mais il a depuis assoupli ses règles face à une augmentation de ces soumissions.

« Nous n'interdisons pas les jeux utilisant de nouvelles technologies », écrivait à l'époque le fondateur et PDG d'Epic Games, Tim Sweeney, sur Twitter, soulignant qu'Epic Games avait ouvert l'auto-édition complète plus tôt cette année-là.

Alors que les développeurs d’IA ont investi massivement dans la suppression des images offensantes de leurs modèles, les utilisateurs ont trouvé des moyens de « jailbreaker » les modèles à l’aide d’invites spécialisées. En octobre, des images générées par l'IA de Bob l'éponge ou des avions de ligne Kirby de Nintendo volant dans le World Trade Center sont devenues virales.