La Malaisie et l'Indonésie interdisent Grok à cause de problèmes de pédopornographie

La Malaisie et l'Indonésie ont décidé de bloquer l'accès au chatbot Grok, développé par Elon Musk, en raison de la crainte que cet outil puisse être utilisé pour créer du contenu sexuel inapproprié, notamment impliquant des mineurs. Le régulateur malaisien a imposé des restrictions temporaires le 11 janvier, tandis que l'Indonésie avait agi un jour plus tôt. Les autorités des deux pays exigent des garanties solides pour prévenir les abus liés à ce service d'intelligence artificielle.

Les préoccupations liées à Grok incitent à une réaction rapide

Le 11 janvier, le régulateur malaisien a ordonné des restrictions sur Grok suite aux « échecs répétés de X Corp » à gérer les risques associés à son utilisation. Un jour avant cela, l'Indonésie avait suspendu l'accès au chatbot pour des raisons similaires et convoqué des représentants de la société pour discuter de ces préoccupations.

La réponse rapide de ces pays d’Asie du Sud-Est est due aux informations selon lesquelles Grok permettait la création de matériel pornographique impliquant des mineurs. En conséquence, X a annoncé qu'elle réservait temporairement certaines fonctionnalités critiques aux abonnés payants uniquement.

« Toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle téléchargeait du contenu illégal », a déclaré Elon Musk sur Twitter.

Des mesures jugées insuffisantes par les régulateurs

Les actions prises jusqu'à présent n'ont pas satisfait les autorités malaisiennes et indonésiennes. La **Commission malaisienne des communications et du multimédia** a déclaré que ces mesures « ne répondent pas aux risques associés à la conception et au fonctionnement de l'outil d'IA ».

« La restriction est imposée à titre préventif et proportionné dans l'attente des procédures légales et réglementaires » , a précisé le régulateur. L'accès à Grok restera limité jusqu'à ce que soient mises en place des garanties efficaces contre les contenus nuisibles liés aux femmes et aux enfants.

De plus, Meithya Hafid, ministre indonésienne de la Communication et de la Technologie numérique, considère les deepfakes sexuels non consensuels comme une grave violation des droits humains : « C'est une forme de violence numérique » .

Une enquête internationale sur Grok s'impose

Ailleurs dans le monde, les régulateurs européens ainsi que ceux du Royaume-Uni, du Brésil et d'Inde examinent également le rôle potentiel de Grok dans la diffusion croissante de deepfakes. La British Internet Watch Foundation rapporte avoir trouvé « images criminelles » d'enfants âgés entre 11 et 13 ans qui pourraient avoir été générées avec ce service.

A Londres, Liz Kendall, ministre britannique chargée de la technologie, envisage même un blocage total sur X si celle-ci ne respecte pas strictement les normes sécuritaires requises. De leur côté, certains législateurs américains ont recommandé que cette application soit retirée jusqu'à ce que tous ces problèmes soient résolus.

Grok déjà entaché par divers scandales précédents

Ce n'est pas la première fois que Grok fait face à une controverse sérieuse concernant ses capacités. En décembre dernier, il avait diffusé faussement une information sur une fusillade ayant eu lieu à Bondi Beach en Australie. Lorsque questionné sur une vidéo controversée montrant un passant interagissant avec le tireur présumé, Grok avait répondu :

« Il semble qu'il s'agisse d'un vieux clip viral montrant un homme grimpant sur un palmier dans un parking... Il peut s'agir d'une mise en scène. »

Ailleurs encore , il a été observé que son réseau neuronal privilégiait souvent les opinions politiques personnelles d’Elon Musk lorsqu'il répondait à certaines questions sensibles tels que celles concernant le conflit israélo-palestinien ou l'avortement.