Rapport WEF 2024  : risques liés à l'IA et implications mondiales

Alors que l’intelligence artificielle (IA) continue de faire la une des journaux, elle devient de plus en plus un sujet de discussion pour les organisations du monde entier. Récemment, le Forum économique mondial (WEF) a publié son Rapport sur les risques mondiaux 2024, et l’IA est apparue sur plusieurs de ses pages. Le WEF reconnaît que l’IA peut avoir un impact positif, mais il se concentre principalement sur les risques que présente l’IA dans un cadre mondial.

IA générative et risques mondiaux

Le rapport indique que l’une des préoccupations les plus urgentes est la prolifération de la désinformation issue de l’IA générative. L’IA générative, en particulier les plateformes qui permettent aux utilisateurs de créer des images, des vidéos et du son, ont rendu très facile la création et la diffusion de faux contenus qui semblent légitimes. Le WEF craint que si la désinformation induite par l’IA persiste, plusieurs personnes seront victimes de violations des droits humains.

Un groupe particulièrement exposé à ce risque est celui des personnes travaillant au sein du gouvernement. Les membres du gouvernement et d’autres personnalités de haut niveau courent un risque élevé d’être la cible/victime de campagnes manipulatrices créées avec du contenu généré par l’IA. Le WEF craint que ce type de campagnes manipulatrices ne déstabilise les systèmes politiques et les marchés mondiaux, ne provoque des conflits internes et du terrorisme et ne mette à rude épreuve les relations internationales. Bien que les responsables de l'application des lois soient conscients de ces problèmes, le WEF rapporte que le rythme du développement de la réglementation n'a pas été en mesure de suivre l'évolution des modèles d'IA qui permettent aux utilisateurs de créer ce type de contenu.

Le rapport aborde également les problèmes qui pourraient découler d’une production d’IA fortement centralisée au sein d’une poignée d’entreprises et de pays. Le WEF estime que cela peut créer des vulnérabilités en raison d’une dépendance excessive du monde à l’égard d’un ensemble limité de modèles d’IA et de fournisseurs de cloud. Le WEF affirme que cela pourrait entraîner des risques de cybersécurité qui finiraient par affecter les infrastructures du monde entier.

Au-delà des problèmes liés à un système hautement centralisé, le fait que les plates-formes d'IA générative soient largement accessibles à toute personne disposant d'une connexion Internet signifie qu'il existe un large éventail de façons d'utiliser l'IA à mauvais escient, des acteurs malveillants exploitant les systèmes d'IA pour créer de la désinformation et des cyberattaques. et des armes.

Les disparités économiques et militaires de l’IA

Le WEF souligne le potentiel de l’IA pour accroître les inégalités dans le monde. Ils affirment que l’IA devrait créer des gagnants et des perdants dans différentes économies, les pays à faible revenu étant laissés pour compte. Le WEF estime que les pays les mieux placés pour créer et utiliser des systèmes d’IA finiront par influencer la dynamique du pouvoir mondial, ce qui pourrait entraîner des variations significatives dans la productivité économique, la création d’emplois et l’accès aux soins de santé et à l’éducation dans différentes économies​​​.

Mais ces inégalités vont au-delà des opportunités économiques et de l’éducation. Le WEF s’inquiète de la manière dont les inégalités induites par l’IA affecteront les puissances militaires. Le WEF estime que l’IA entraînera des déséquilibres dans les capacités des systèmes d’armes autonomes et des armes nucléaires, et que si la menace que représente l’IA dans le secteur de la défense n’est pas prise en compte ou correctement gérée, elle pourrait avoir des effets négatifs sur la société.

Comment résoudre ces problèmes d’IA ?

Au cœur du rapport du WEF se trouve l'idée selon laquelle les outils d'IA se généralisent, mais il n'y a pas eu beaucoup de programmes de sensibilisation du public autour de l'IA ou d'autres mesures visant à atténuer les risques associés aux systèmes d'IA.

De nombreux éléments que le WEF reconnaît comme des risques créés par les systèmes d'IA concernent les individus dans le monde qui n'ont pas accès aux systèmes d'IA qui sont désavantagés parce qu'ils sont susceptibles d'être laissés pour compte alors que d'autres économies adoptent cette technologie et l'utilisent pour progresser. rapidement. L'autre moitié du risque qu'ils estiment existe vient de la crainte qu'un manque d'éducation publique et de réglementation finisse par nuire aux individus, dans la mesure où de mauvais acteurs profitent des nouvelles technologies pour commettre et faciliter des crimes d'une manière que le grand public, et dans certains cas. même les forces de l'ordre, n'ont jamais vu auparavant.

Pour résoudre ces problèmes, le rapport souligne l’importance de la coopération mondiale en matière d’IA. Il appelle à une approche unie de la gouvernance de l’IA impliquant les secteurs public et privé du monde entier.

Pour lutter contre la désinformation et la désinformation, le rapport suggère que des mesures de protection soient mises en place sur les plateformes d'IA générative, telles que des filigranes et des filigranes cachés sur le contenu généré par un système d'IA, afin que les individus puissent rapidement conclure que ce qu'ils voient est légitime ou contrefait.

Enfin, le rapport appelle à des efforts visant à accroître les connaissances des régulateurs et de la société en matière d’IA afin de relever certains défis et de rendre la société plus résistante aux risques liés à l’IA. Si les individus savaient à quoi ressemblent la cybercriminalité, les campagnes de désinformation et d’autres escroqueries liées à l’IA, ils seraient mieux placés pour éviter et signaler les comportements inappropriés liés à l’IA.

À l’échelle mondiale, il n’existe pas de moyen simple de résoudre ces problèmes ; de nombreux éléments individuels – aux niveaux local, étatique et fédéral – contribuent à créer une image complète de l’IA dans un contexte mondial. Malheureusement, la plupart de ces organes directeurs sont réactifs plutôt que proactifs, s’attaquant aux problèmes créés par des technologies telles que l’IA après la survenance d’un événement dévastateur causant des dommages importants.

Cependant, le fait que l’IA, ses avantages et ses inconvénients soient discutés par diverses organisations qui influencent les décisions mondiales constitue, espérons-le, un pas dans la bonne direction pour accélérer la création de l’infrastructure de soutien dont l’IA a besoin pour aboutir à des résultats optimaux. À tout le moins, ces discussions autour de l’IA affirment que l’intelligence artificielle aura un impact significatif sur le monde et qu’il s’agit d’une tendance technologique actuelle sur laquelle les gens devraient s’informer.

Pour que l’intelligence artificielle (IA) fonctionne dans le respect de la loi et prospère face à des défis croissants, elle doit intégrer un système de blockchain d’entreprise qui garantit la qualité et la propriété des données saisies, lui permettant ainsi de conserver les données en sécurité tout en garantissant leur immuabilité. de données. Consultez la couverture de CoinGeek sur cette technologie émergente pour savoir pourquoi la blockchain d'entreprise sera l'épine dorsale de l'IA.

Regarder  : Les fondamentaux de la cybersécurité à l'ère numérique d'aujourd'hui avec l'IA et le Web3

Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.