Les chercheurs avertissent que les « essaims » d’IA risquent d'aggraver la désinformation et la manipulation sur Internet
Chapo : Un rapport publié dans la revue Science met en garde contre l'émergence d'essaims d'IA capables de mener des campagnes de désinformation avec peu de surveillance humaine. Ces systèmes autonomes, qui imitent le comportement humain, rendent la détection et l'arrêt des manipulations beaucoup plus complexes qu'auparavant. Les chercheurs soulignent que les mesures actuelles sur les plateformes numériques pourraient ne pas suffire à contenir cette menace.
Les essaims d’IA augmentent la complexité des campagnes de désinformation
Un nouveau rapport, publié jeudi dans Science, indique que l'ère des botnets traditionnels facilement détectables est révolue. Selon les chercheurs, nous assistons à une transition vers des essaims d'IA autonomes qui peuvent s'adapter en temps réel et nécessiter peu ou pas de supervision humaine. Ces essaims compliquent considérablement les efforts pour détecter et stopper les campagnes de désinformation.
L'étude, rédigée par un consortium comprenant des experts d'Oxford, Cambridge, UC Berkeley, NYU et l'Institut Max Planck, décrit un environnement numérique où il devient difficile d'identifier la manipulation. Contrairement aux méthodes précédentes basées sur des pics soudains autour d'événements politiques, ces nouvelles formes de campagne peuvent soutenir un récit sur une période prolongée.
Des implications alarmantes pour la démocratie
« Entre les mains d’un gouvernement, de tels outils pourraient supprimer la dissidence ou amplifier les dirigeants en place », avertissent les chercheurs. Ils insistent sur le fait que « le déploiement d’une IA défensive ne peut être envisagé que s’il est régi par des cadres stricts, transparents et démocratiquement responsables ».
Ces déclarations soulignent le potentiel dangereux que ces technologies représentent pour nos sociétés démocratiques.
Une nouvelle dynamique dans la propagation des fausses informations
Les recherches montrent également que ces essaims exploitent les faiblesses existantes des réseaux sociaux. La tendance actuelle montre que « les fausses nouvelles se propagent plus rapidement et plus largement que les vraies nouvelles, approfondissant ainsi des réalités fragmentées » selon le rapport.
Sean Ren, professeur à l’Université de Californie du Sud et PDG de Sahara AI, constate déjà ce changement : « Les comptes basés sur l’IA sont de plus en plus difficiles à distinguer des utilisateurs ordinaires ». Cela signifie qu'il devient crucial pour les plateformes sociales d'agir rapidement pour limiter ce phénomène avant qu'il ne prenne trop d'ampleur.
La nécessité urgente de contrôles identitaires renforcés
Ren propose qu'un contrôle plus strict relatif à l'identité pourrait aider : « Je pense qu'un KYC (Know Your Customer) plus strict serait très utile ici ». Il explique qu'en rendant difficile la création de nouveaux comptes tout en surveillant efficacement ceux déjà existants, on peut réduire considérablement le risque associé aux comportements manipulatoires coordonnés.
« Si l'agent ne peut utiliser qu'un petit nombre de comptes pour publier du contenu », ajoute-t-il encore, « il est alors beaucoup plus facile de détecter les utilisations suspectes ».
Aucune solution simple face à cette menace croissante
Les chercheurs affirment qu'il n'existe pas une seule réponse au problème posé par ces essaims. Bien qu'ils suggèrent une meilleure détection statistique ainsi qu'une transparence accrue concernant l'activité automatisée comme pistes potentielles, ils précisent également que seules ces solutions techniques seront probablement insuffisantes.
Ren souligne également que « les incitations financières restent un moteur persistant » derrière ces attaques manipulatrices coordonnées. Il conclut en appelant à appliquer davantage “de mécanismes stricts” pour filtrer efficacement ces comptes potentiellement nuisibles.
Ce rapport met donc en lumière non seulement une évolution technologique marquante mais aussi une nécessité impérative : celle d'agir collectivement contre cette nouvelle forme sophistiquée et insidieuse de désinformation qui menace notre espace public.
