Les vidéos Deepfake AI attirent l'attention du Premier ministre indien alors qu'il appelle à la sensibilisation du public
Le Premier ministre indien Narendra Modi a exprimé son inquiétude face à la montée des deepfakes liés à l’intelligence artificielle (IA) dans les médias sociaux du pays, suscitant des craintes de désinformation et de fraude.
Selon un rapport du Times of India, Modi a déclaré que même si l’IA générative peut améliorer la productivité, de mauvais acteurs ont commencé à exploiter la technologie pour des cas d’utilisation sinistres. L’une des principales préoccupations de Modi est l’utilisation de deepfakes, susceptibles de déformer les faits et d’inciter les victimes à réaliser des investissements frauduleux.
Le Premier ministre a souligné le réalisme croissant des deepfakes et la difficulté de faire la distinction entre le contenu généré par l’IA et la réalité, citant une vidéo deepfake de lui-même chantant des chansons locales.
« Il y a un défi qui se pose en raison de l’intelligence artificielle et du deepfake », a déclaré Modi. « Une grande partie de notre pays ne dispose d’aucune option parallèle de vérification. Les gens finissent souvent par croire aux deepfakes et cela va dans le sens d’un grand défi.
Ces derniers mois, de fausses vidéos d’acteurs indiens ont inondé Internet, Rashmika Mandanna et Katrina Kaif étant les principales victimes des créations. À l’aide de vidéos synthétiques, de mauvais acteurs mettent en scène les acteurs dans des scènes obscènes ou les utilisent pour solliciter des investissements du public.
Depuis le début de l’année, des centaines de résidents indiens ont perdu des milliers de dollars à cause d’arnaques aux monnaies numériques utilisant l’image d’Elon Musk.
Pour endiguer l’utilisation abusive des deepfakes en Inde, Modi appelle à une sensibilisation accrue du public auprès des résidents afin de les éduquer sur l’identification et la limitation de la propagation des deepfakes générés par l’IA. Le pays a depuis lancé un cours d’IA par le ministère de l’Éducation, du Développement des compétences et de l’Entrepreneuriat, avec des responsables bancaires perfectionnés pour lutter contre la fraude alimentée par les deepfakes.
« En outre, ils devront donner la priorité à la gestion des risques, à la conformité réglementaire et à la durabilité pour garantir la résilience et la compétitivité à long terme dans un paysage bancaire en évolution », a déclaré un régulateur.
Le pays a réalisé de légers progrès en matière de réglementation de l’IA, imposant de lourdes amendes et jusqu’à trois ans de prison pour la création de deepfakes visant à induire le public en erreur.
La police de Delhi a annoncé le lancement d’une enquête sur les vidéos deepfake de Mandanna et Kaif, les autorités auraient demandé des URL à Meta (NASDAQ : META).
IA et blockchain pour l’Inde
Bien que la blockchain ait une longueur d’avance, les cas d’utilisation de l’IA réduisent rapidement l’écart, les experts envisageant plusieurs cas d’utilisation de la technologie dans l’économie indienne.
En tête de liste se trouve la finance, les banques commerciales étant invitées à se tourner vers l’IA pour réprimer les violations de la lutte contre le blanchiment d’argent (AML) en temps réel. D’un autre côté, la Reserve Bank of India fait pression pour des paiements instantanés conversationnels alimentés par l’IA via son United Payments Interface (UPI).
« Ce modèle basé sur l’IA garantit des transactions rapides et sécurisées, protégeant les utilisateurs dans un environnement consolidé », a déclaré un responsable financier. « Cela améliorera encore l’expérience utilisateur, en offrant une solution de paiement fluide, transparente et très pratique. »
À voir : Bangalore et blockchain : la synergie est là
Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.
