Un nouveau projet de loi du Sénat cible les deepfakes de l'IA et appelle à l'ajout de filigranes de contenu


Dans le cadre de la dernière tentative visant à freiner les deepfakes générés par l’IA, un groupe bipartisan de sénateurs américains dirigé par la sénatrice de Washington Maria Cantwell a annoncé jeudi l’introduction de la loi sur la protection de l’origine du contenu et l’intégrité des médias édités et falsifiés (COPIED).La loi COPIED prévoit une méthode standardisée pour filigraner le contenu généré par l’IA afin qu’il puisse être facilement détecté. Elle exige également que les fournisseurs d’outils d’IA permettent aux créateurs d’ajouter des informations détaillant l’origine ou la « provenance » de leur contenu d’une manière qui ne puisse pas être supprimée.

Parmi les sénateurs signataires du projet de loi figurent Marsha Blackburn (R-Tenn.) et Martin Heinrich (DN.M.

).La loi « apportera une transparence indispensable sur le contenu généré par l’IA », a déclaré le sénateur Cantwell dans un communiqué. « La loi COPIED redonnera également aux créateurs, notamment aux journalistes, artistes et musiciens locaux, le contrôle de leur contenu grâce à un processus de provenance et de filigrane qui, à mon avis, est très nécessaire.

Un nouveau projet de loi du Sénat cible les deepfakes de l'IA et appelle à l'ajout de filigranes de contenu

»Selon la proposition, le développement de la méthode utilisée pour filigraner le contenu et les données serait géré par le National Institute of Standards and Technology (NIST).La loi COPIED interdit également l’utilisation non autorisée de contenu pour la formation de l’IA, exigeant des droits de contrôle et de rémunération des créateurs. L’application de la loi incomberait à la Federal Trade Commission (FTC) des États-Unis et aux procureurs généraux des États.

En novembre, la FTC a revendiqué son autorité pour faire appliquer les lois relatives à l’intelligence artificielle aux États-Unis, affirmant que l’IA générative pourrait « booster » les escroqueries et a souligné son rôle dans la régulation de l’IA pour protéger les consommateurs.« L’intelligence artificielle a donné aux acteurs malveillants la possibilité de créer des deepfakes de chaque individu, y compris ceux de la communauté créative, pour imiter leur image sans leur consentement et tirer profit de contenus contrefaits », a déclaré le sénateur Blackburn. « La loi COPIED constitue une étape importante pour mieux défendre les cibles communes comme les artistes et les interprètes contre les deepfakes et autres contenus non authentiques.

»Les développeurs d’IA générative sont engagés dans une bataille juridique prolongée avec les médias, dont le New York Times et des membres de l’industrie du divertissement, concernant des allégations de violation du droit d’auteur.Plus tôt ce mois-ci, Cloudflare, une société de services et de sécurité Internet, a lancé un « bouton facile » pour empêcher les robots IA de récupérer des données sur les sites Web, dans le but de protéger les créateurs de contenu contre la collecte de données non autorisée. Selon Cloudflare, la société a constaté que les robots IA accédaient à 39 % des principaux sites utilisant Cloudflare, tandis que seulement 2,98 % prenaient des mesures pour les bloquer.

La Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) et la Recording Industry Association of America (RIAA) font partie de celles qui ont salué l’introduction du COPIED Act.« La législation du sénateur Cantwell garantirait que les outils nécessaires pour rendre l’utilisation de la technologie de l’IA transparente et traçable jusqu’au point d’origine permettront aux victimes de l’utilisation abusive de la technologie d’identifier les parties malveillantes et de les poursuivre », a déclaré Duncan Crabtree-Ireland, directeur du SAG-AFTRA et négociateur en chef, dans un communiqué. « Nous avons besoin d’une chaîne d’approvisionnement entièrement transparente et responsable pour l’intelligence artificielle générative et le contenu qu’elle crée afin de protéger le droit fondamental de chacun à contrôler l’utilisation de son visage, de sa voix et de sa personnalité.

»L’année dernière, la SAG-AFTRA et les membres de la Writers Guild of America (WGA) ont organisé une grève de plusieurs mois après l’échec des négociations contractuelles, notamment sur la manière dont l’IA serait utilisée à Hollywood.« Protéger l’œuvre et l’héritage des artistes n’a jamais été aussi important, alors que les plateformes d’IA copient et utilisent des enregistrements récupérés sur Internet à l’échelle industrielle et que les deepfakes générés par l’IA se multiplient à un rythme rapide », a déclaré Mitch Glazier, président-directeur général de la RIAA, dans un communiqué séparé. « La RIAA soutient fermement les exigences de provenance comme élément fondamental de la responsabilité et de l’application des droits des créateurs.

»En avril, l’acteur et musicien britannique « FKA Twigs », dont le vrai nom est Tahliah Debrett Barnett, a témoigné devant la commission judiciaire du Sénat américain sur l’importance pour les artistes de contrôler leur image numérique et sur la nécessité d’une législation pour empêcher toute utilisation abusive sans consentement.« Nous consacrons toute notre vie à travailler dur et à faire des sacrifices pour atteindre l’excellence, non seulement dans l’espoir d’obtenir un succès commercial et des critiques élogieuses, mais aussi dans l’espoir de créer un corpus d’œuvres et une réputation qui constitueront notre héritage », a déclaré FKA Twigs au comité. « Je suis ici parce que ma musique, ma danse, mon jeu d’acteur, la façon dont mon corps bouge devant la caméra et la façon dont ma voix résonne devant un microphone ne sont pas le fruit du hasard.

Ce sont des reflets essentiels de qui je suis. »Les représentants du sénateur Cantwell n’ont pas immédiatement répondu à une demande de commentaires de Decrypt.

Bulletin d’information généralement intelligent

Un voyage hebdomadaire de l’IA raconté par Gen, un modèle d’IA génératif.