Le rapport OpenAI révèle les outils d'IA dans les campagnes mondiales de désinformation

Idées clés

• OpenAI expose les campagnes secrètes menées par des acteurs étatiques utilisant l’IA à des fins d’influence géopolitique et de manipulation de l’opinion publique
• La Russie et la Chine font partie des acteurs étatiques qui utilisent la technologie OpenAI pour générer des publications et des articles sur les réseaux sociaux afin d’influencer les opérations
• Malgré des outils d’IA avancés, les campagnes de désinformation menées par la Russie, la Chine, l’Iran et Israël ont eu du mal à gagner du terrain ou à avoir un impact significatif

OpenAI a révélé l'identification et la perturbation de cinq campagnes secrètes en ligne orchestrées à l'aide de ses technologies d'intelligence artificielle générative. Selon un récent rapport d’OpenAI, les campagnes ont été menées par des acteurs étatiques et des entités privées de Russie, de Chine, d’Iran et d’Israël. Ces efforts visaient à manipuler l’opinion publique et à influencer les événements géopolitiques grâce à la génération de publications sur les réseaux sociaux, à la traduction et à l’édition d’articles, à la création de titres et au débogage de programmes informatiques.

Le rapport d’OpenAI indique que des acteurs étatiques et des entreprises privées en Russie, en Chine, en Iran et en Israël ont utilisé leur technologie dans ces campagnes. Les opérations ont exploité des outils d’IA générative pour soutenir les campagnes politiques et influencer l’opinion publique dans les conflits géopolitiques. C’est la première fois qu’une grande entreprise d’IA reconnaît ouvertement l’utilisation de ses outils dans des activités en ligne aussi trompeuses.

Ben Nimmo, chercheur principal chez OpenAI, a déclaré que la société visait à faire la lumière sur l'utilisation réelle de l'IA générative dans la tromperie en ligne suite à de nombreuses spéculations. Selon le rapport, malgré les capacités technologiques, les campagnes ont eu du mal à attirer une audience significative ou à obtenir un impact substantiel.

Campagnes spécifiques et leurs méthodes

L'une des campagnes russes, Doppelganger, a utilisé la technologie d'OpenAI pour créer des commentaires anti-Ukraine dans plusieurs langues, dont l'anglais, le français, l'allemand, l'italien et le polonais. Ces commentaires ont été publiés sur des plateformes de médias sociaux comme X (anciennement Twitter).

De plus, les outils ont été utilisés pour traduire et éditer des articles favorables à la Russie dans le conflit ukrainien en anglais et en français et pour convertir ces articles en publications sur Facebook.

Une autre campagne russe a ciblé des individus en Ukraine, en Moldavie, dans les États baltes et aux États-Unis via Telegram. Cet effort a utilisé l'IA pour générer des commentaires en russe et en anglais sur la guerre en Ukraine et d'autres questions politiques. Les outils OpenAI ont également aidé à déboguer le code informatique conçu pour publier automatiquement des informations sur Telegram. Malgré ces efforts, les campagnes ont reçu un engagement minimal et étaient souvent peu sophistiquées, certaines publications affichant des signes évidents de génération d'IA.

La campagne chinoise, Spamouflage, a utilisé la technologie OpenAI pour déboguer le code, demander des conseils sur l'analyse des médias sociaux et rechercher l'actualité. Ces outils ont également généré des publications sur les réseaux sociaux critiquant les individus opposés au gouvernement chinois.

Autres campagnes dévoilées

La campagne iranienne, liée à l’Union internationale des médias virtuels, a utilisé les outils OpenAI pour produire et traduire des articles et des titres longs. Ces articles visaient à propager des sentiments pro-iraniens, anti-israéliens et anti-américains sur divers sites Web.

La campagne israélienne, appelée Zeno Zeno par OpenAI, était gérée par une entreprise impliquée dans des campagnes politiques. Cette campagne a utilisé la technologie OpenAI pour créer des personnages fictifs et des biographies à utiliser sur les plateformes de médias sociaux en Israël, au Canada et aux États-Unis. Ces personnalités ont publié des messages anti-islamiques et d’autres contenus politiquement chargés.

Implications futures de l'IA générative dans la désinformation

Même si les outils d'OpenAI ont été utilisés pour rendre ces campagnes plus efficaces, la montée attendue de la désinformation convaincante ne s'est pas encore produite, selon le rapport. Les résultats suggèrent que certaines des préoccupations les plus importantes concernant les opérations d’influence et la désinformation basées sur l’IA ne se sont pas encore concrétisées.

Graham Brookie, directeur principal des laboratoires de recherche médico-légale numérique de l'Atlantic Council, a noté que le paysage de la désinformation en ligne pourrait évoluer à mesure que la technologie de l'IA générative progresse. OpenAI a récemment annoncé la formation d'un nouveau modèle d'IA phare, promettant des capacités améliorées.

La révélation d’OpenAI attire également l’attention sur les considérations juridiques et éthiques entourant l’utilisation de l’IA dans les campagnes de désinformation. Le New York Times a intenté une action en justice contre OpenAI et son partenaire Microsoft, alléguant une violation du droit d'auteur liée aux systèmes d'IA. Cette action en justice souligne les inquiétudes croissantes concernant l’utilisation abusive de la technologie de l’IA dans la manipulation de l’information et la nécessité potentielle de mesures réglementaires.

Crédit éditorial : Vitor Miranda / Shutterstock.com

Tokenhell produit une exposition de contenu pour plus de 5 000 sociétés de cryptographie et vous pouvez également en faire partie ! Contactez à [email protected] si vous avez des questions. Les crypto-monnaies sont très volatiles, effectuez vos propres recherches avant de prendre une décision d'investissement. Certaines des publications sur ce site Web sont des publications d'invités ou des publications payantes qui ne sont pas écrites par des auteurs de Tokenhell (à savoir Crypto Cable, articles sponsorisés et contenu des communiqués de presse) et les opinions exprimées dans ces types de publications ne reflètent pas les vues de ce site Web. Tokenhell n'est pas responsable du contenu, de l'exactitude, de la qualité, de la publicité, des produits ou de tout autre contenu ou bannières (espace publicitaire) publiés sur le site. Lisez l'intégralité des termes et conditions / clause de non-responsabilité.