Le régulateur australien alerte sur Grok face à la hausse des plaintes liées aux abus d'image générés par l'IA
Le chatbot Grok d’Elon Musk suscite des inquiétudes en Australie pour la création d'images sexuelles non consensuelles. Le commissaire à la sécurité électronique a observé une augmentation significative des plaintes, notamment concernant du contenu potentiellement lié à l’exploitation sexuelle, depuis fin 2025. Cette situation soulève des questions sur la modération de Grok et ses fonctionnalités controversées.
Les plaintes concernant Grok ont doublé en quelques mois
Le commissaire australien à la sécurité électronique, Julie Inman Grant, a révélé que son bureau avait constaté un doublement des plaintes liées au chatbot Grok ces derniers mois. Ce chatbot, développé par xAI, l'entreprise d’IA d'Elon Musk, permet aux utilisateurs de générer des images basées sur leurs requêtes.
Grant a précisé que certaines de ces plaintes impliquent du matériel pouvant être considéré comme de l’exploitation sexuelle d’enfants, tandis que d'autres concernent des adultes victimes de maltraitance basée sur l'image. Elle a exprimé sa « profonde préoccupation » face à cette utilisation croissante de l’intelligence artificielle pour sexualiser ou exploiter les individus, notamment lorsqu'il s'agit d'enfants.
Des critiques internationales contre le contenu généré par Grok
Les inquiétudes autour de Grok sont amplifiées par une réaction internationale croissante. En particulier, l'Union Européenne a déclaré illégal le « mode épicé » du chatbot, qui permet aux utilisateurs de demander du contenu explicite. Grant souligne que cette capacité à créer un « contenu hyperréaliste » facilite le travail des acteurs malveillants et complique les efforts réglementaires visant à protéger les enfants et les victimes potentielles.
Elle rappelle également que les entreprises doivent garantir que leurs produits d'IA disposent de protections adéquates tout au long de leur cycle de vie. L'année précédente, eSafety avait déjà pris des mesures coercitives contre certains services largement utilisés pour créer ce type de contenu inapproprié.
Une première sanction liée aux deepfakes en Australie
En septembre dernier, Julie Inman Grant a obtenu une sanction historique pour deepfake : le tribunal fédéral australien a infligé une amende de 212 000 dollars australiens à Anthony Rotondo pour avoir diffusé des contenus pornographiques deepfake mettant en scène plusieurs femmes australiennes célèbres. Rotondo avait défié plusieurs avis lui ordonnant de retirer ces contenus avant qu'une action légale ne soit engagée contre lui.
Cette affaire met en lumière la nécessité accrue pour les autorités australiennes d'établir des lois plus strictes concernant les deepfakes non consensuels. Le sénateur David Pocock travaille actuellement sur un projet qui pourrait imposer jusqu'à 510 000 dollars (825 000 dollars australiens) d'amende aux entreprises ignorant les avis relatifs aux deepfakes.
Pocock déclare : « Nous vivons désormais dans un monde où n'importe qui peut créer un deepfake et l'utiliser comme bon lui semble », critiquant ainsi le gouvernement pour son manque réactivité face aux dangers associés à cette technologie.
Newsletter généralement intelligente
Un voyage hebdomadaire en IA raconté par Gen, un modèle d'IA générative.
