L'historien Yuval Noah Harari alerte sur l'emprise grandissante de l'IA sur la langue, le droit et la religion
Chapô : Lors du Forum économique mondial, l'historien Yuval Noah Harari a mis en garde contre les dangers de l'intelligence artificielle (IA), la considérant comme un agent autonome plutôt qu'un simple outil. Selon lui, les systèmes basés sur le langage, tels que le droit et la religion, sont particulièrement vulnérables à cette évolution technologique. Harari appelle les dirigeants mondiaux à agir rapidement pour définir le statut juridique des IA avant qu'il ne soit trop tard.
Harari met en garde contre la perte de contrôle du langage
Yuval Noah Harari a souligné que l'humanité risque de perdre le contrôle du langage, qu'il qualifie de « superpuissance » essentielle. Lors d'une intervention au Forum économique mondial, il a indiqué que l'IA évolue vers des agents autonomes, capables d'interagir et de manipuler des informations sans intervention humaine directe.
« Les humains ont conquis le monde non pas parce que nous sommes les plus forts physiquement, mais parce que nous avons découvert comment utiliser les mots pour amener des milliers, des millions et des milliards d'étrangers à coopérer », a affirmé Harari.
L'impact potentiel de l'IA sur les systèmes juridiques et religieux
L'auteur de « Sapiens » a mis en exergue que la majorité des structures sociales reposent sur le langage. Cela rend ces systèmes particulièrement exposés aux risques liés à l’IA. Il a déclaré : « Si les lois sont faites de mots, alors l’IA prendra le contrôle du système juridique ». De même, il s'est inquiété du fait que l’IA pourrait devenir l’interprète ultime des textes sacrés dans diverses religions.
Harari souligne également que certains États américains ont déjà légiféré pour clarifier la position juridique de l'IA. Par exemple, l'Utah et l'Idaho stipulent explicitement que ces technologies ne peuvent pas être reconnues comme personnes morales selon la loi.
Les dirigeants doivent agir maintenant sur les lois concernant l’IA
Au cours de son discours, Harari a exhorté les gouvernements à décider rapidement si les systèmes d’IA devraient avoir un statut moral ou légal avant qu’un consensus ne se forme sans leur avis. Il avertit : « Dans dix ans, il sera trop tard pour décider si les IA doivent fonctionner en tant que personnes sur les marchés financiers ».
Il attire ainsi l’attention sur ce qui pourrait être une prise de pouvoir par ces technologies dans divers domaines cruciaux tels que la finance, le droit ou encore la religion.
Des critiques émergent face aux propos alarmistes sur l’IA
Cependant, tous ne partagent pas cette vision alarmiste. La professeure Emily M. Bender a exprimé ses réserves vis-à-vis des affirmations d'Harari. Elle considère ses préoccupations comme une tentative masquant la responsabilité humaine derrière ces systèmes technologiques puissants : « Il me semble qu’il s’agit en réalité d’une tentative visant à masquer les actions des personnes et des entreprises qui construisent ces systèmes ».
Bender critique également le terme « intelligence artificielle » , affirmant qu’il est souvent utilisé comme un label marketing plutôt qu'une description claire d'une technologie cohérente.
L'inquiétude croissante autour de la confiance accordée aux machines
Alors qu’Harari insiste sur une utilisation accrue d’agents IA dans divers secteurs économiques et sociaux, Bender met en lumière un autre danger : la confiance excessive accordée aux résultats produits par ces machines sans supervision humaine adéquate.
Elle souligne : « Si vous disposez d’un système où vous pouvez interroger et obtenir quelque chose qui ressemble à une réponse – dépourvue de son contexte – alors vous pouvez voir comment cela peut influencer vos idées et croyances ». Ce phénomène pourrait mener à une acceptation aveugle d’informations potentiellement erronées ou manipulées produites par l’IA.
Le débat autour du rôle futur de l'intelligence artificielle continue donc d'alimenter discussions et controverses parmi chercheurs et décideurs politiques au niveau mondial.
