Meta veut lutter contre la désinformation des images d'IA avec des filigranes invisibles
- Meta propose d'intégrer des filigranes invisibles sur les images synthétiques pour lutter contre la désinformation.
- Les détails techniques de cette fonctionnalité sont rares, mais elle sera invisible à l'œil humain et détectable par un modèle correspondant.
- Cette initiative fait suite au déploiement de nouvelles fonctionnalités sur l'assistant virtuel Meta AI et s'inscrit dans une tendance plus large visant à combattre les deepfakes.
Le géant des médias sociaux Meta (NASDAQ : META) a réitéré son engagement à garantir une utilisation responsable de l’intelligence artificielle (IA) avec le déploiement proposé de filigranes invisibles sur les images synthétiques.
Dans un article de blog, la société a déclaré que la nouvelle fonctionnalité de filigrane est conçue pour « réduire les risques que les gens les confondent avec du contenu généré par l’homme ». La fonctionnalité devrait être intégrée au générateur de texte-image de Meta, Imagine, rejoignant ainsi l’arsenal croissant de l’entreprise pour lutter contre la désinformation grâce à l’IA générative.
Prévu pour un lancement dans les semaines à venir, les détails techniques des fonctionnalités de filigrane sont rares, bien que les informations disponibles suggèrent qu’elles seront « appliquées avec un modèle d’apprentissage en profondeur ». La fonction de filigrane entrant de Meta devrait être invisible à l’œil humain. Pourtant, il sera facilement détectable par un modèle correspondant.
a déclaré Meta »
Selon le rapport, Meta a confirmé que le recadrage, les captures d’écran ou la modification de la couleur, de la luminosité et du contraste ne supprimeront pas le filigrane de l’image.
Bien qu’Imagine soit la première tentative de Meta d’introduire une IA invisible, la société a révélé son intention d’intégrer cette fonctionnalité dans sa gamme de générateurs d’images IA. La firme Big Tech a précisé que l’utilisation du filigrane invisible n’affectera pas la qualité des images générées.
L’annonce de Meta fait suite au déploiement de plus de 20 nouvelles fonctionnalités sur son assistant virtuel Meta AI, qui, selon la société, amélioreront ses capacités pour les utilisateurs.
En septembre, Google (NASDAQ : GOOGL) a lancé son outil de filigrane invisible dans une vaillante tentative d’étouffer la tendance croissante de la désinformation basée sur l’IA. Surnommé SynthID, Google affirme que la fonction de filigrane peut être étendue au-delà des images aux vidéos et au texte, avertissant que l’outil n’est pas « une solution miracle au problème des deepfakes ».
Combattre les deepfakes
Au-delà des questions de droits d’auteur, les analystes ont pointé du doigt les deepfakes comme une menace existentielle pour l’IA, incitant les entreprises d’IA à explorer de nouvelles solutions pour relever ce défi. Outre les filigranes invisibles, les experts réfléchissent à la possibilité d’utiliser la technologie blockchain pour étiqueter le contenu généré par l’IA.
À la veille des élections de 2024, la Commission électorale fédérale américaine (FEC) a annoncé son intention d’introduire une réglementation complète pour lutter contre le fléau des deepfakes, à la suite de plusieurs pétitions émanant d’organisations à but non lucratif concernées.
d’une manière qui s’étendra bien au-delà des protections du Premier Amendement pour l’expression politique, l’opinion ou la satire », peut-on lire dans une pétition.
Regardez : l’IA n’est vraiment pas générative, elle est synthétique
Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.
