IBM met en garde contre le détournement audio alimenté par l'IA lors des appels en direct

Selon les chercheurs d'IBM (NASDAQ : IBM), l'intelligence artificielle générative (IA) a rendu étonnamment facile le détournement et la manipulation de conversations en direct, relayant des informations malveillantes à l'une ou l'autre des parties.

Les chercheurs ont modifié le contexte d'un appel audio en direct entre deux parties à l'aide de modèles de langage étendus (LLM), de clonage vocal et de technologies de synthèse vocale.

Au cours de leur exploration, les chercheurs ont intercepté un appel audio en direct et ont écouté les mots « compte bancaire ». Dès qu’une partie mentionnait un compte bancaire, le LLM bloquait sa voix, la coupait de la conversation et la remplaçait par un faux compte.

car elle serait facile à remarquer. L’étude montre en outre que les deux cibles dont l’appel audio en direct a été intercepté n’avaient aucune idée que leur connexion avait été compromise.

« De manière alarmante, il a été assez facile de construire cette capacité hautement intrusive, ce qui a suscité de vives inquiétudes quant à son utilisation par un attaquant motivé par des incitations monétaires et limité à aucune frontière légale », ont déclaré les chercheurs.

L'attaque s'est concentrée sur la manipulation des informations bancaires de ses cibles, mais selon IBM, il n'y a aucune limite à ce qu'une attaque de détournement audio peut réaliser. Les attaquants pourraient utiliser cette tactique pour modifier des informations médicales telles que les allergies ou le groupe sanguin, avec un effet dévastateur. Il pourrait même demander à un pilote de rediriger un avion à plus grande échelle.

«Construire ce PoC a été étonnamment et effrayantment facile», déclarent les chercheurs. Avant l’IA, entraîner un système à apprendre la sémantique d’une conversation et à modifier ne serait-ce qu’une seule phrase nécessitait une équipe de chercheurs dédiée.

Cependant, à l’ère de l’IA, « les LLM rendent l’analyse et la compréhension de la conversation extrêmement faciles ».

Les développeurs ont même pris en compte les pauses attendues lorsque le système LLM formulait la phrase avec la voix clonée. Conscients que faire une pause pouvait éveiller les soupçons, ils ont donné au système quelques secondes avec des phrases de transition telles que « Bien sûr, donnez-moi juste une seconde pour le relancer. »

Alors que l’IA présente de nouvelles menaces pour les consommateurs, le besoin de solutions de cybersécurité de pointe n’a jamais été aussi grand. Certihash est devenu le meilleur de sa catégorie, tirant parti de la blockchain Bitcoin pour proposer des solutions de cybersécurité robustes et pragmatiques, équipées pour faire face aux menaces en constante évolution.

Son produit phare, Sentinel Node, réduit le temps de détection des menaces d'une moyenne de plus de 200 jours à quelques secondes. Développé en partenariat avec IBM, Sentinel Node permet aux victimes de réagir immédiatement, ce qui permet d'économiser potentiellement des millions de dollars.

Pour que l’intelligence artificielle (IA) fonctionne dans le respect de la loi et prospère face à des défis croissants, elle doit intégrer un système de blockchain d’entreprise qui garantit la qualité et la propriété des données saisies, lui permettant ainsi de conserver les données en sécurité tout en garantissant leur immuabilité. de données. Consultez la couverture de CoinGeek sur cette technologie émergente pour savoir pourquoi la blockchain d'entreprise sera l'épine dorsale de l'IA.

Regarder  : La blockchain peut rendre l’IA responsable

Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.