Le rapport annuel des régulateurs financiers américains met en garde contre les risques liés à l'IA

Un groupe de régulateurs a averti que l’adoption rapide de l’intelligence artificielle (IA) pourrait présenter de nouveaux risques pour le système financier américain si cette technologie n’est pas correctement supervisée.
Le Conseil de surveillance de la stabilité financière, composé des principaux régulateurs financiers et présidé par la secrétaire américaine au Trésor Janet Yellen, a signalé pour la première fois les risques posés par l'IA dans son rapport annuel sur la stabilité financière publié le 14 décembre.
Bien que l'équipe ait reconnu le potentiel de l'IA pour stimuler l'innovation et l'efficacité des institutions financières, elle a souligné la nécessité pour les entreprises et les régulateurs de rester vigilants en raison des progrès technologiques rapides.
Dans son rapport annuel, le groupe souligne que l’IA comporte des risques spécifiques, tels que la cybersécurité et les risques de modèle. Il suggère que les entreprises et les régulateurs améliorent leurs connaissances et leurs capacités pour surveiller l’innovation et l’utilisation de l’IA et identifier les risques émergents.
Selon le rapport, les outils spécifiques d’IA sont très techniques et complexes, ce qui pose des difficultés aux institutions pour les expliquer ou les surveiller efficacement. Le rapport prévient que les entreprises et les régulateurs risquent de négliger des résultats biaisés ou inexacts sans une compréhension globale.
Le rapport souligne également que les outils d’IA dépendent de plus en plus d’ensembles de données externes étendus et de fournisseurs tiers, ce qui soulève des problèmes de confidentialité et de cybersécurité.
Certains régulateurs, dont la Securities and Exchange Commission (qui fait partie du panel), ont examiné l'utilisation de l'IA par les entreprises. Simultanément, la Maison Blanche a publié un décret pour traiter et réduire les risques liés à l’IA.
En rapport: OpenAI est-il sur le point de proposer une nouvelle mise à niveau de ChatGPT ? Sam Altman dit "non"
Le pape François, dans une lettre du 8 décembre, a exprimé ses inquiétudes quant aux menaces potentielles de l'IA pour l'humanité. Il plaide en faveur d’un traité international visant à réglementer de manière éthique le développement de l’IA, mettant en garde contre le risque d’une « dictature technologique » sans contrôles appropriés.
Des personnalités technologiques comme Elon Musk et Steve Wozniak ont ​​exprimé leurs inquiétudes quant aux progrès rapides de l’IA. Plus de 2 600 leaders technologiques et chercheurs, dont Musk et Wozniak, ont signé une pétition en mars 2023, appelant à une « pause » dans le développement de l’IA. Ils ont souligné les « risques profonds potentiels pour la société et l’humanité » posés par les progrès de l’IA dépassant le GPT-4.
Revue: Cas d'utilisation réels de l'IA dans la cryptographie : marchés de l'IA basés sur la cryptographie et analyse financière de l'IA