« Sora » d'OpenAI est-il une passerelle vers les escroqueries cryptographiques ? Dévoiler les risques de l’IA

La société d'intelligence artificielle OpenAI a dévoilé son dernier produit, un modèle texte-vidéo appelé Sora. Cependant, les progrès de l’IA ont davantage alimenté les escrocs, et à mesure que les marchés de la cryptographie fleurissent, cela pourrait être utilisé pour arnaquer les gens.

Selon l'annonce du 15 février, Sora peut créer des vidéos d'une durée maximale de 60 secondes présentant des scènes très détaillées, des mouvements de caméra complexes et plusieurs personnages aux émotions vibrantes.

La société a déclaré qu'elle « prendrait plusieurs mesures de sécurité importantes » avant de rendre Sora disponible dans ses produits.

« Nous travaillons avec des équipes rouges – des experts dans des domaines tels que la désinformation, les contenus haineux et les préjugés – qui testent le modèle de manière contradictoire. »

Il présentait plusieurs vidéos créées à partir d’invites textuelles fournissant une brève description de la scène souhaitée.

Capture d'écran de la vidéo générée par Sora. Source : OpenAI

Le modèle comprend ce que l'utilisateur a demandé dans l'invite et également comment ces choses existent dans le monde physique, a-t-il déclaré.

OpenAI a également déclaré que le modèle avait une compréhension approfondie du langage. Cela lui permet d'interpréter avec précision les invites et,

« Générez des personnages convaincants qui expriment des émotions vibrantes. »

Cependant, la société a mis en garde :

"Malgré des recherches et des tests approfondis, nous ne pouvons pas prédire toutes les manières bénéfiques dont les gens utiliseront notre technologie, ni toutes les manières dont ils en abuseront."

Lire la suite : Test du DALL-E 2 : tout ce que vous devez savoir

Néanmoins, les fraudeurs cryptographiques risquent d’abuser de la nouvelle technologie. Cela pourrait permettre à des acteurs malveillants de créer des deepfakes se faisant passer pour de vraies personnes et entreprises afin de promouvoir des projets de cryptographie frauduleux.

Les fraudeurs pourraient également utiliser Sora pour générer de fausses approbations de célébrités pour des projets Web3 et crypto. Les vidéos et audios synthétiques déjà présentés étaient très convaincants. "Ouah. C'est vraiment incroyable ! Le podcasteur Lex Fridman l'a dit à ses 3,3 millions de followers X.

De plus, la conversion texte-vidéo générée par l’intelligence artificielle pourrait automatiser la création de grands volumes de vidéos frauduleuses à faible coût. Ceux-ci pourraient être utilisés pour promouvoir des systèmes de crypto-pump-and-dump sur les plateformes de médias sociaux, qui font déjà très peu pour prévenir les escroqueries.

Les mauvais acteurs pourraient exploiter la puissance de l’IA texte-vidéo, telle que Sora, pour créer à moindre coût du contenu manipulateur. Cela pourrait ensuite être optimisé pour devenir viral sur les plateformes sociales et permettre aux escroqueries cryptographiques de se développer rapidement si elles ne sont pas contrôlées.

Dernières nouvelles sur l'IA

Le secteur de l'intelligence artificielle a été occupé cette semaine en plus de l'annonce révolutionnaire de Sora. OpenAI a également doté ChatGPT d'une « mémoire », lui permettant de mémoriser les invites afin que les utilisateurs n'aient pas à répéter les demandes.

Google a dévoilé une mise à niveau de son modèle d'IA, Gemini. La version 1.5 propose une fenêtre contextuelle innovante d'un million de jetons. Cela permet au grand modèle de langage de traiter beaucoup plus de données que ses concurrents.

Lire la suite : Tutoriel ChatGPT : Comment utiliser ChatGPT par OpenAI

De plus, Meta a publié V-JEPA. Ce nouveau modèle d'apprentissage permet à l'IA de comprendre et de prédire ce qui se passe dans une vidéo, même avec des informations limitées.

Slack a également intégré de nouvelles fonctionnalités d'IA générative dans la plateforme de travail. Ceux-ci incluent une recherche améliorée, des récapitulatifs des chaînes, des résumés de fils de discussion, etc.

Clause de non-responsabilité

Conformément aux directives du Trust Project, BeInCrypto s'engage à fournir des rapports impartiaux et transparents. Cet article de presse vise à fournir des informations précises et actuelles. Il est toutefois conseillé aux lecteurs de vérifier les faits de manière indépendante et de consulter un professionnel avant de prendre une décision basée sur ce contenu. Veuillez noter que nos conditions générales, notre politique de confidentialité et nos clauses de non-responsabilité ont été mises à jour.