Les élections en Inde utilisent largement l'IA alors que les inquiétudes grandissent quant à une éventuelle utilisation abusive

2024 est l'année de l'intelligence artificielle (IA) pour les élections nationales en Inde, car la plus grande démocratie du monde utilise largement l'IA pour les campagnes électorales et les traductions linguistiques.
L'Inde, la « lueur d'espoir » de l'économie mondiale, a été mise aux urnes le 19 avril et se poursuivra jusqu'au 1er juin. Les élections générales de 2024 se dérouleront en sept phases pour élire 543 membres de la chambre basse du Parlement ou Lok Sabha. Les votes seront comptés et les résultats seront proclamés le 4 juin.
La plus grande élection de l’histoire de l’humanité – qui compte environ 970 millions d’électeurs inscrits – utilise non seulement l’IA pour cibler les électeurs à travers des dizaines de traductions, mais aussi l’utilisation de l’IA pour créer de fausses vidéos et des robots conversationnels, ce qui soulève des inquiétudes quant à l’utilisation abusive de la technologie.
« Des deepfakes et des clones de voix de dirigeants politiques générés par l’IA circulent sur les réseaux sociaux et les plateformes de messagerie comme WhatsApp pour transmettre des messages positifs ou négatifs sur les candidats ou les candidats. parties », a déclaré à CoinGeek Rajagopal Menon, vice-président de WazirX, l'une des plus grandes plateformes de négociation d'actifs numériques en Inde.
"Ce n'est que la pointe de l'iceberg", a déclaré à CoinGeek Pradeep Gooptu, secrétaire fondateur de Bengal Initiative, un groupe de réflexion indien.
« Je pense que l’IA jouera un rôle de plus en plus critique dans le suivi, l’analyse et l’influence des élections, mais je crains que cela ne conduise à une érosion de la vie privée et à une plus grande intrusion dans la vie privée des citoyens par les agences gouvernementales – qui sont malheureusement contrôlées par le parti politique. au pouvoir dans ce domaine », a ajouté Gooptu.
Dans une fausse vidéo générée par l'IA, des acteurs indiens de premier plan, Aamir Khan et Ranveer Singh, critiquent le Premier ministre Narendra Modi pour ne pas avoir tenu ses promesses et persuadé les électeurs de voter pour un parti politique d'opposition.
De même, une fausse vidéo du ministre de l'Intérieur de l'Union, Amit Shah, aurait été entendue disant que son parti Bharatiya Janata supprimerait les réserves pour les classes arriérées, une question sensible en Inde.
En conséquence, la Commission électorale de l’Inde – établie par la Constitution indienne et habilitée à organiser des élections libres et équitables – a publié un avis aux partis politiques les mettant en garde contre l’utilisation abusive des outils d’IA pour créer des deepfakes et diffuser de la désinformation et les exhortant à maintenir le pouvoir. caractère sacré du processus électoral.
Les campagnes électorales dans la grande économie à la croissance la plus rapide au monde se déroulent traditionnellement par le biais de rassemblements publics et de porte-à-porte, mais les dernières élections générales indiennes, organisées en 2019, ont vu l'utilisation généralisée des médias numériques. Avec 300 millions d'utilisateurs de Facebook et plus de 200 millions sur WhatsApp, soit plus que tout autre pays, nombreux sont ceux qui ont présenté les élections de 2019 comme les élections « WhatsApp ».
Cependant, les élections générales de 2024 – au cours desquelles Modi devrait obtenir un rare troisième mandat consécutif – marqueront la première fois où presque tous les partis politiques et candidats utilisent largement l'IA pour atteindre les électeurs et devraient dépenser plus de 50 millions de dollars pour des élections générées par l'IA. matériel de campagne.
Considérée comme l'année des élections, plus de 2 milliards d'électeurs dans 50 pays, dont les États-Unis, l'Union européenne et l'Inde, se rendront aux urnes en 2024. Cependant, les élections en Inde devraient être les plus coûteuses au monde en termes de candidats et On estime que les partis politiques dépenseront environ 14,4 milliards de dollars pour les élections cette année. Ce chiffre était d'environ 7,2 milliards de dollars lors des dernières élections nationales de 2019.
« Les élections de 2024 pourraient être une épreuve du feu pour la démocratie indienne à l’ère de l’IA. Cependant, nous pouvons utiliser l’IA pour renforcer plutôt qu’affaiblir nos principes démocratiques si nous combinons de manière appropriée innovation, vigilance et implication civique. Les enjeux sont assez élevés, mais ce ne sera pas simple », a déclaré à CoinGeek Raj Kapoor, fondateur de l'India Blockchain Alliance et président de l'Alliance mondiale pour l'innovation éthique de l'IA.
« L’IA sera une arme importante à double tranchant. Beaucoup dépendra de ce que feront les parties prenantes. Les partis politiques céderont-ils à la pression de la manipulation ou utiliseront-ils l’IA de manière responsable ? Les forces de l’ordre trouveront-elles un juste équilibre entre restrictions et liberté d’expression ? Le public sera-t-il capable de gérer la difficulté de naviguer dans un paysage informationnel post-vérité et hyper-personnalisé ? » fit remarquer Kapoor.

L'IA pour la croissance économique

L'Inde a récemment approuvé plus de 1,24 milliard de dollars pour la mission IndiaAI, prévue au cours des cinq prochaines années. L'injection financière vise à stimuler l'écosystème de l'IA, l'innovation et l'entrepreneuriat du pays.
« Une journée marquante pour la technologie et l’innovation ! L'approbation du Cabinet pour la mission IndiaAI permettra aux startups de l'IA et d'élargir l'accès à l'infrastructure de calcul, marquant un pas de géant dans notre parcours pour devenir un leader mondial de l'innovation en IA », avait déclaré Modi sur X.
Stimulé par une forte croissance économique, Modi prédit que son parti et ses alliés remporteront plus de 400 sièges pour disposer de la majorité au cours des cinq prochaines années. Le gouvernement dirigé par Modi a également l'intention de tirer parti de l'IA pour atteindre son objectif Viksit Bharat (Inde développée) d'ici 2047. Avec 1,4 milliard d'habitants, soit près de 18 % de la population mondiale, l'économie du pays le plus peuplé du monde devrait connaître une croissance supérieure à celle de 2047. 6,6% pour l’exercice en cours. L'Inde vise également à devenir une économie de 5 000 milliards de dollars d'ici 2028 et la troisième économie mondiale, avec des technologies émergentes comme l'IA et la blockchain comme principaux catalyseurs de croissance.
" est de plus en plus adopté par partis pour la campagne et la sensibilisation. Cependant, des inquiétudes sont soulevées quant aux implications de l’utilisation du contenu généré par l’IA pour influencer un électorat important et diversifié sur le plan numérique, avec différents niveaux d’alphabétisation en ligne », a souligné Menon de WazirX.
"L'utilisation croissante des deepfakes et des voix de l'IA indique également le rôle croissant de l'IA, qui pourrait encore s'étendre lors des prochaines élections à mesure que la technologie progresse et que davantage d'électeurs deviennent accessibles en ligne", a ajouté Menon.

Les usages

Lors des élections nationales de 2024, « les partis politiques utilisent les appels vocaux basés sur l’IA pour atteindre virtuellement les électeurs. Les appels utilisent l'IA pour générer la voix d'un dirigeant local et répondre dynamiquement aux contributions des électeurs avec des réponses pertinentes. Des vidéos ressuscitées générées par l’IA de dirigeants décédés comme Karunanidhi et Jayalalithaa circulent, les montrant faisant la promotion de la direction actuelle du parti », a déclaré Menon.
Modi a adopté les innovations de l'IA et utilise le clonage vocal pour reproduire ses discours dans huit langues, dont le kannada, le tamoul, le telugu, le malayalam, le bengali, le punjabi, le marathi et l'odia.
Modi exploite des outils d'IA tels que « Bhashini » pour traduire le langage pendant les campagnes.
« L’IA est également utilisée pour prédire le comportement des électeurs et simuler les résultats des élections. Les modèles prédictifs, alimentés par des données de vote historiques, des sondages et des sentiments en temps réel sur les réseaux sociaux, peuvent prévoir les résultats avec une précision croissante. Cela permet aux partis de concentrer stratégiquement leurs efforts sur les États swing et les électeurs indécis », a souligné Kapoor.
Les images des médias sociaux peuvent être utilisées par vision par ordinateur pour déterminer l’émotion des électeurs. L'IA rend possible un degré sans précédent de sensibilisation sur mesure, et les partis politiques exploitent la technologie pour comprendre les besoins et les convictions uniques de chaque électeur.
« Les stratèges politiques indiens experts en technologie voient l’IA comme un outil révolutionnaire. Les électeurs ont également été micro-ciblés avec des messages personnalisés utilisant des algorithmes d’apprentissage automatique, car l’IA a le potentiel d’examiner de grandes quantités de données comportementales, psychographiques et démographiques. Les chatbots pilotés par l’IA interagissent 24 heures sur 24 avec les citoyens, répondent à leurs questions et collectent des données importantes, et cela a été largement adopté par la plupart des partis politiques », a ajouté Kapoor.
Le parti indien Aam Aadmi (AAP) a exploité l'IA pour maintenir la communication entre son chef récemment arrêté, Arvind Kejriwal, et le public. Le parti a utilisé des outils d’IA pour créer un clone de voix et convertir son message écrit en parole.
« Les campagnes peuvent forger des liens plus profonds et mobiliser les partisans plus efficacement que jamais », a réitéré Kapoor.

Lutte contre les abus

Le gouvernement indien a utilisé avec succès la technologie pour cibler les pauvres. Il a également utilisé la technologie pour éliminer les faux bénéficiaires de ses programmes sociaux, notamment grâce aux transferts directs de prestations, un système permettant de transférer des subventions directement au public via leurs comptes bancaires liés.
« Logiquement, le même algorithme peut être déployé pour éliminer les faux votes ou les électeurs en double des listes électorales. L’utilisation de technologies telles que l’IA et la blockchain dépend entièrement du problème que l’on tente de résoudre », a souligné Menon.
Pour être honnête, l’Inde n’a actuellement pas de réglementation claire pour le contenu généré par l’IA, à l’exception d’une liste de garde-fous, notamment le filigrane du contenu généré par l’IA et le test du contenu soutenu par l’IA pour détecter tout dommage potentiel avant de le rendre public. L'Inde devrait publier d'ici juillet un projet de cadre réglementaire pour l'IA afin d'utiliser la technologie pour la croissance économique tout en mettant en place des garde-fous pour empêcher toute utilisation abusive.
« L’intelligence artificielle recèle indéniablement un potentiel important pour l’avenir du système électoral, avec des discussions en cours et des projets pilotes explorant son adoption et sa mise en œuvre. La capacité de l'IA à rationaliser divers aspects du processus électoral, notamment l'inscription des électeurs, la sensibilisation et la détection des fraudes, en fait une option intéressante pour améliorer l'efficacité et la précision. En outre, l’analyse prédictive basée sur l’IA peut fournir des informations précieuses sur le comportement et les préférences des électeurs, permettant ainsi des stratégies de campagne et des efforts d’engagement des électeurs plus ciblés », a souligné Kapoor.
Cependant, les préoccupations concernant la confidentialité, la sécurité et la transparence sont importantes. Les algorithmes d’IA nécessitent une quantité massive de données, ce qui soulève des questions sur la collecte, le stockage et la protection des informations sur les électeurs. L’opacité des processus décisionnels de l’IA peut éroder la confiance dans le processus électoral, surtout si les algorithmes présentent des préjugés ou manquent de responsabilité.
« Le paysage politique et réglementaire entourant l’adoption de l’IA lors des élections est complexe. Les décideurs politiques doivent aborder des questions telles que les réglementations sur la confidentialité des données, les mesures de cybersécurité et les normes éthiques pour garantir une utilisation responsable et équitable de l’IA dans le système électoral. Ainsi, même si l’IA est prometteuse pour améliorer l’efficience et l’efficacité du système électoral, son adoption généralisée dépend de la prise en compte des préoccupations éthiques, réglementaires et sociétales afin de garantir un processus électoral transparent, sécurisé et inclusif », a déclaré Kapoor.
Pour que l’intelligence artificielle (IA) fonctionne dans le respect de la loi et prospère face à des défis croissants, elle doit intégrer un système de blockchain d’entreprise qui garantit la qualité et la propriété des données saisies, lui permettant ainsi de conserver les données en sécurité tout en garantissant leur immuabilité. de données. Consultez la couverture de CoinGeek sur cette technologie émergente pour savoir pourquoi la blockchain d'entreprise sera l'épine dorsale de l'IA.
Regardez le trio Web3 : IA, métaverse et blockchain
Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.