Au cours de l’année écoulée, les scientifiques, les PDG du secteur technologique, les milliardaires et les législateurs n’ont pas manqué de tirer la sonnette d’alarme sur l’intelligence artificielle – et maintenant, même le pape veut en parler aussi.
Dans une lourde lettre de 3 412 mots datée du 8 décembre, le pape François – le chef de l’Église catholique – a mis en garde contre les dangers potentiels de l’IA pour l’humanité et contre ce qui doit être fait pour la contrôler. La lettre est arrivée alors que l’Église catholique romaine se prépare à célébrer la Journée mondiale de la paix le 1er janvier 2024.
« J’exhorte la communauté mondiale des nations à travailler ensemble afin d’adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’intelligence artificielle sous ses nombreuses formes. »
La menace de l’IA apparaît lorsque les développeurs ont un « désir de profit ou une soif de pouvoir » qui l’emporte sur le désir d’exister librement et pacifiquement, a expliqué le Pape.
« La dignité inhérente à chaque être humain [.] doit soutenir le développement des nouvelles technologies et servir de critère incontestable pour leur évaluation [.] afin que le progrès numérique puisse se produire dans le respect de la justice et contribuer à la cause de la paix.
Les technologies qui n’y parviennent pas « aggravent les inégalités et les conflits » et ne peuvent donc jamais être considérées comme un véritable progrès, a-t-il ajouté.
Dans le même temps, l’émergence de fausses nouvelles générées par l’IA constitue un « problème sérieux », a ajouté le pape, qui pourrait conduire à une méfiance croissante à l’égard des médias.
Le pape a récemment été victime de l’IA générative lorsqu’une fausse image de lui portant une luxueuse doudoune blanche est apparue sur Internet en mars.
Source : Boston GlobeLe pape François a cependant également reconnu les avantages de l’IA en permettant une fabrication plus efficace, des transports plus faciles et des marchés plus accessibles, ainsi qu’une révolution dans les processus d’accumulation, d’organisation et de confirmation des données.
Mais il craint également que l’IA profite à ceux qui la contrôlent et laisse une grande partie de la population sans emploi pour subvenir à ses besoins :
« Il existe un risque substantiel de bénéfices disproportionnés pour une minorité au prix de l’appauvrissement d’un grand nombre. »
Le pape François met depuis longtemps en garde contre l’utilisation abusive des technologies émergentes, affirmant que « des principes moraux à la fois théoriques et pratiques » doivent y être intégrés. Il est cependant souvent considéré comme plus féru de technologie et plus tourné vers l’avenir que ses prédécesseurs.
Des dirigeants technologiques tels que le PDG de Tesla, Elon Musk, et le co-fondateur d’Apple, Steve Wozniak, ont exprimé leur inquiétude quant à la rapidité avec laquelle l’IA progresse. Cela les a incités, ainsi que plus de 2 600 leaders technologiques et chercheurs, à signer une pétition visant à « suspendre » les développements de l’IA en mars 2023, partageant leurs inquiétudes selon lesquelles une IA plus avancée que GPT-4 peut poser « des risques profonds pour la société et l’humanité ».
Le président américain Joe Biden a également exprimé ses inquiétudes. Son administration a publié fin octobre un décret sur le « développement et l’utilisation sûrs, sécurisés et fiables de l’intelligence artificielle » pour faire face aux risques posés par l’IA.
En rapport: NFT et éducation islamique : Une nouvelle frontière pour enseigner la religion ?
Même les cinéastes et célébrités hollywoodiennes ajoutent leurs réflexions à la question.
En juillet, le cinéaste canadien James Cameron aurait déclaré qu’il mettait en garde contre les dangers de l’IA depuis « The Terminator », qu’il avait réalisé il y a près de 40 ans.
Le Terminateur (1984)
Réalisé par James Cameron
et si nous ne la construisons pas, les autres vont certainement la construire, et alors cela va s’intensifier », a-t-il ajouté.
Revue : Les experts veulent donner des « âmes » humaines à l’IA pour qu’elle ne nous tue pas tous
