« Sora » d'OpenAI est-il une passerelle vers les escroqueries cryptographiques  ? Dévoiler les risques de l’IA

  • OpenAI a dévoilé Sora, un modèle texte-vidéo pouvant potentiellement être utilisé par des escrocs pour générer des deepfakes et promouvoir des cryptos frauduleuses.
  • Sora peut créer des vidéos très convaincantes en fonction de simples invites textuelles, ce qui pourrait automatiser la création de contenus manipulés à grande échelle.
  • D'autres avancées en IA ont été annoncées cette semaine, telles qu'une mémoire pour ChatGPT et une mise à niveau du modèle Gemini de Google, ainsi que le nouveau V-JEPA de Meta et les fonctionnalités améliorées d'IA dans Slack.

La société d'intelligence artificielle OpenAI a dévoilé son dernier produit, un modèle texte-vidéo appelé Sora. Cependant, les progrès de l’IA ont davantage alimenté les escrocs, et à mesure que les marchés de la cryptographie fleurissent, cela pourrait être utilisé pour arnaquer les gens.

Selon l'annonce du 15 février, Sora peut créer des vidéos d'une durée maximale de 60 secondes présentant des scènes très détaillées, des mouvements de caméra complexes et plusieurs personnages aux émotions vibrantes.

La société a déclaré qu'elle « prendrait plusieurs mesures de sécurité importantes » avant de rendre Sora disponible dans ses produits.

« Sora » d'OpenAI est-il une passerelle vers les escroqueries cryptographiques  ? Dévoiler les risques de l’IA

« Nous travaillons avec des équipes rouges – des experts dans des domaines tels que la désinformation, les contenus haineux et les préjugés – qui testent le modèle de manière contradictoire. »

Il présentait plusieurs vidéos créées à partir d’invites textuelles fournissant une brève description de la scène souhaitée.

Le modèle comprend ce que l'utilisateur a demandé dans l'invite et également comment ces choses existent dans le monde physique, a-t-il déclaré.

OpenAI a également déclaré que le modèle avait une compréhension approfondie du langage. Cela lui permet d'interpréter avec précision les invites et,

« Générez des personnages convaincants qui expriment des émotions vibrantes. »

Cependant, la société a mis en garde  :

ni toutes les manières dont ils en abuseront. »

Lire la suite : Test du DALL-E 2  : tout ce que vous devez savoir

Néanmoins, les fraudeurs cryptographiques risquent d’abuser de la nouvelle technologie. Cela pourrait permettre à des acteurs malveillants de créer des deepfakes se faisant passer pour de vraies personnes et entreprises afin de promouvoir des projets de cryptographie frauduleux.

Les fraudeurs pourraient également utiliser Sora pour générer de fausses approbations de célébrités pour des projets Web3 et crypto. Les vidéos et audios synthétiques déjà présentés étaient très convaincants. « Ouah. C'est vraiment incroyable ! Le podcasteur Lex Fridman l'a dit à ses 3,3 millions de followers X.

De plus, la conversion texte-vidéo générée par l’intelligence artificielle pourrait automatiser la création de grands volumes de vidéos frauduleuses à faible coût. Ceux-ci pourraient être utilisés pour promouvoir des systèmes de crypto-pump-and-dump sur les plateformes de médias sociaux, qui font déjà très peu pour prévenir les escroqueries.

Les mauvais acteurs pourraient exploiter la puissance de l’IA texte-vidéo, telle que Sora, pour créer à moindre coût du contenu manipulateur. Cela pourrait ensuite être optimisé pour devenir viral sur les plateformes sociales et permettre aux escroqueries cryptographiques de se développer rapidement si elles ne sont pas contrôlées.

Dernières nouvelles sur l'IA

Le secteur de l'intelligence artificielle a été occupé cette semaine en plus de l'annonce révolutionnaire de Sora. OpenAI a également doté ChatGPT d'une « mémoire », lui permettant de mémoriser les invites afin que les utilisateurs n'aient pas à répéter les demandes.

Google a dévoilé une mise à niveau de son modèle d'IA, Gemini. La version 1.5 propose une fenêtre contextuelle innovante d'un million de jetons. Cela permet au grand modèle de langage de traiter beaucoup plus de données que ses concurrents.

Lire la suite : Tutoriel ChatGPT : Comment utiliser ChatGPT par OpenAI

De plus, Meta a publié V-JEPA. Ce nouveau modèle d'apprentissage permet à l'IA de comprendre et de prédire ce qui se passe dans une vidéo, même avec des informations limitées.

Slack a également intégré de nouvelles fonctionnalités d'IA générative dans la plateforme de travail. Ceux-ci incluent une recherche améliorée, des récapitulatifs des chaînes, des résumés de fils de discussion, etc.

engage à fournir des rapports impartiaux et transparents Veuillez noter que nos conditions générales