Un projet de loi bipartisan vise à lutter contre l'utilisation abusive de l'IA Deepfake grâce au filigranage et à la provenance

Un nouveau projet de loi présenté par un groupe de sénateurs bipartites vise à lutter contre l'utilisation abusive des faux contenus issus de l'intelligence artificielle (IA) en imposant le filigranage de ces contenus. Le projet de loi, présenté par la sénatrice Maria Cantwell (D-WA), la sénatrice Marsha Blackburn (R-TN) et le sénateur Martin Heinrich (D-NM), propose une méthode standardisée pour le tatouage du contenu généré par l'IA. Baptisée « Content Origin Protection and Integrity from Edited and Deepfaked Media Act » (COPIED), elle renforcera la protection des créateurs et établira des contrôles sur les types de contenu sur lesquels l'IA peut être formée. Selon Cantwell, le projet de loi offrira la « transparence indispensable » au contenu généré par l’IA tout en redonnant « aux créateurs, y compris aux journalistes locaux, aux artistes et aux musiciens, le contrôle de leur contenu ». Si elle est adoptée, la loi obligera également les fournisseurs de services d’IA comme OpenAI à obliger les utilisateurs à intégrer des informations sur l’origine du contenu qu’ils génèrent. De plus, ces informations doivent être mises en œuvre de manière à ce qu’elles soient « lisibles par machine » et ne puissent pas être contournées ou supprimées à l’aide d’outils basés sur l’IA. La Federal Trade Commission (FTC) supervisera l'application de la loi COPIED. Le régulateur traitera les violations comme des actes déloyaux ou trompeurs, à l'instar d'autres infractions à la loi FTC. Avec l’introduction de l’IA, de nombreux débats ont eu lieu autour de ses implications éthiques, compte tenu de la capacité de la technologie à extraire d’énormes volumes de données sur le Web.

Ces inquiétudes sont devenues évidentes lorsque le géant de la technologie Microsoft a renoncé à occuper des sièges au conseil d’administration d’OpenAI. « L’intelligence artificielle a donné aux mauvais acteurs la capacité de créer des deepfakes de chaque individu, y compris ceux de la communauté créative, pour imiter leur image sans leur consentement et tirer profit du contenu contrefait », a déclaré le sénateur Blackburn. Le projet de loi coïncide avec une augmentation de 245 % des fraudes et escroqueries utilisant du contenu Deepfake. Un rapport de Bitget estime que les pertes liées à ces stratagèmes seront évaluées à 10 milliards de dollars d'ici 2025. Dans le domaine des cryptomonnaies, les escrocs ont utilisé l'IA pour se faire passer pour des personnalités de premier plan comme Elon Musk et Vitalik Buterin afin de duper les utilisateurs. En juin 2024, un client de la plateforme d'échange de crypto-monnaies OKX a perdu plus de 2 millions de dollars après que des attaquants ont réussi à contourner la sécurité de la plateforme en utilisant des vidéos deepfake de la victime. Le mois précédent, les autorités de Hong Kong avaient sévi contre une plateforme d'escroquerie utilisant l'image d'Elon Musk pour tromper les investisseurs. Pendant ce temps, le géant technologique Google a récemment été critiqué par le fondateur du National Cybersecurity Center (NCC), Michael Marcotte, pour des mesures préventives inadéquates contre les deep fakes ciblant les crypto-monnaies.