Les crypto-deepfakes prouvent que X échoue en tant que plateforme industrielle

X, anciennement Twitter, a un problème de deepfake, qui, je pense, pourrait – et, franchement, devrait – mettre fin à son rôle de première plate-forme sociale pour l'industrie de la cryptographie. En parcourant le chaos sans fin de X, il ne faut pas longtemps pour tomber sur une vidéo, mettant généralement en vedette un Michael Saylor ou un Brad Garlinghouse guindés, me promettant l'accès à un parachutage cryptographique. Le portrait d'Anatoly Yakovenko, co-fondateur de Solana, a également été utilisé.

Ces vidéos sont, bien sûr, des escroqueries, apportant une nouvelle tournure technologique résolument inquiétante à un vieux problème – similaire à la menace toujours prédominante des attaques de crypto-phishing.

Les vidéos utilisent des enregistrements vocaux générés par l’IA et ce qui semble être des animations labiales ajoutées pour présenter des « opportunités » aux futurs détenteurs de crypto.

Évidemment, je n'ai pas cliqué ni parcouru le site, mais les implications sont claires pour quiconque a été confronté aux dangers de l'Internet moderne. L’interaction signifie une exposition à la sécurité, et l’exposition signifie le potentiel de vol d’actifs numériques, d’informations personnelles ou plus.

Un compte, en ligne au moment de la rédaction de cet article, avait enregistré 276 000 vues pour un deepfake de Saylor et 139 000 vues pour un deepfake de Garlinghouse.

opinion : Farcaster pourrait bien être le nouveau Crypto Twitter

Le fait que ces publications soient souvent étiquetées comme des publicités – leur offrant ainsi un vernis de légitimité – est profondément problématique. Bien pire est la réalité selon laquelle X gagne de l’argent grâce au problème plutôt que de faire un quelconque effort visible pour y faire face.

industrie de la cryptographie – dans les deux cas, attirant les victimes potentielles avec des cadeaux.

Tout cela se déroule dans le contexte d’une vague d’autres types de publicités spam, comme The Information l’a détaillé plus tôt ce mois-ci. Le résultat – alimenté par un exode d’annonceurs majeurs qui s’est lentement produit depuis que Musk a repris l’ancien Twitter – est un champ de mines de produits douteux, de robots pornographiques et de fausses vidéos.

C'est une catastrophe. La situation brouille encore davantage l’eau d’une plate-forme qui a servi pendant de nombreuses années de plaque tournante pour les relations intersectorielles. Et si les récents développements technologiques se confirment, le problème risque de s’aggraver avec le temps.

Les nouvelles d'OpenAI de Sam Altman selon lesquelles la société a développé un produit de conversion texte-vidéo pourraient mettre des outils supplémentaires entre les mains d'escrocs potentiels. Certes, OpenAI semble adopter une approche au moins publiquement prudente en ce qui concerne l’accès à cet outil, ce qui est sans aucun doute une reconnaissance des risques inhérents. Mais les outils vidéo générés par l’IA vont inévitablement se généraliser, ouvrant la porte à des contrefaçons plus sophistiquées, comme celles cryptographiques qui apparaissent aujourd’hui.

Où aller à partir d'ici ? Faut-il adopter des plateformes de médias sociaux alternatives ? Les plateformes et protocoles cryptographiques comme Lens ou Farcaster détiennent-ils la clé d’un réseau social sans ces vidéos frauduleuses ?

Je ne sais pas. Je pense que l’industrie devrait s’exprimer davantage sur cette question – ne serait-ce que pour inciter X et Musk à réagir. N’oubliez pas que le problème des robots Musk a bel et bien disparu, mais selon toute apparence, le problème fondamental – de faux comptes se faisant passer pour des sources d’autorité – s’est métastasé.

Cette situation place une industrie longtemps aux prises avec ses pires impulsions, au plus près d’une dangereuse collision entre technologie et exploitation. L’industrie de la cryptographie serait bien avisée d’y faire face de front.

Dans ses temps libres