L'IA et l'informatique quantique signalées comme de nouveaux risques mondiaux : WEF

Le Forum économique mondial publie chaque année son rapport sur les risques mondiaux depuis près de deux décennies. La 19e édition annuelle répertorie une toute nouvelle menace mondiale et consacre une section entière à ses innombrables implications : l’intelligence artificielle.

notamment le changement climatique, les changements de pouvoir géopolitiques, la migration humaine et l'accélération technologique. Dans l'ensemble, selon l'édition 2024, il existe « des perspectives mondiales essentiellement négatives pour les deux prochaines années, qui devraient s'aggraver au cours de la prochaine décennie ».

Mais l’IA, et la technologie en général, apparaissent tout au long du rapport, notamment lorsqu’il est question de la « polarisation sociétale », qui s’est hissée parmi les trois premiers risques et s’est classée neuvième parmi les menaces à long terme. « À mesure que la polarisation s'accentue et que les risques technologiques restent incontrôlés, la 'vérité' sera mise sous pression », prévient le rapport.

L'IA est partout

Le rapport du WEF se penche sur les diverses implications de l’IA à tous les niveaux. Dans le domaine de la santé, cela sonne l’alarme quant à l’utilisation éthique des données, en soulignant les biais potentiels dans la R&D médicale qui favorisent les populations les plus riches. « Les nouvelles solutions de soins de santé, le diagnostic précoce, la recherche et le développement médicaux pourraient être orientés vers les riches », notent les auteurs, reflétant bon nombre des critiques adressées aux dirigeants milliardaires du mouvement de la longévité.

« [A] la combinaison d’outils d’IA pourrait permettre la création d’armes biologiques plus ciblées et plus graves », ajoute le rapport.

Cela reflète des préoccupations plus larges concernant l’aggravation des disparités économiques par l’IA, en particulier entre les pays à revenu élevé et à faible revenu.

L’informatique quantique, autre frontière fortement axée sur l’IA, est également signalée comme un perturbateur potentiel, menaçant le régime technologique actuel et présentant des risques de sécurité importants. Dans le domaine géopolitique, l’intégration croissante de l’IA dans les applications militaires exercera une pression sur l’éthique et les droits de l’homme, en particulier en ce qui concerne les systèmes d’armes autonomes.

« L'informatique quantique pourrait briser et recréer les monopoles sur la puissance de calcul, ce qui poserait des risques radicaux pour son développement », indique le rapport. « Des acteurs criminels ont déjà lancé des attaques de récolte (également connues sous le nom d'attaques « stocker maintenant, décrypter plus tard » ou SNDL) en prévision d'un ordinateur cryptographiquement significatif. »

Une grande partie des avertissements du WEF sur l’IA étaient liés aux deepfakes. Avec la croissance explosive du contenu généré par l’IA, distinguer les faits de la fiction est devenu un formidable défi. La désinformation et la désinformation introduites via des « contenus faux, imposteurs, manipulés et fabriqués » sont ainsi cataloguées comme des risques mondiaux en raison de leur capacité à faire évoluer « l'opinion publique de manière significative vers la méfiance à l'égard des faits et de l'autorité ».

Le rapport souligne également l'impact de l'IA sur le marché du travail mondial, prévoyant des perturbations importantes dans divers secteurs.

Cette question spécifique a été très controversée dans différents secteurs. Du divertissement à la recherche scientifique pure, le remplacement rapide des humains par l’IA a conduit à une situation mondiale du travail qui, selon certains experts, pourrait avoir de graves conséquences sur les générations futures. Si l’IA peut créer de nouvelles opportunités d’emploi, note le WEF, elle pourrait également entraîner d’importantes pertes d’emplois, exacerbant ainsi l’instabilité économique.

Le WEF appelle à une plus grande sensibilisation et éducation du public à l’IA et à sa réglementation pour faire face à ces risques.

Le WEF n’est pas seul

L’IA est devenue un sujet de débat et de préoccupation intense parmi les dirigeants mondiaux. La récente déclaration internationale sur la sécurité de l’IA, signée par les dirigeants de 29 pays et de l’UE à Bletchley Park, souligne l’urgence largement reconnue de gérer cette technologie émergente.

Le Royaume-Uni, choisissant une voie différente, a annoncé qu’il ne réglementerait pas l’IA dans un avenir proche, privilégiant l’innovation plutôt que les restrictions. Mais il a récemment commencé à enquêter pour savoir si le partenariat OpenAI-Microsoft pourrait enfreindre les lois antitrust. En effet, le rapport du WEF met en garde contre une concentration du pouvoir technologique, qui reflète les inquiétudes soulevées par le secrétaire général de l’ONU, António Guterres. Il a averti l’année dernière que « l’expertise en matière d’IA est concentrée dans une poignée d’entreprises et de pays », ce qui risque d’aggraver les inégalités mondiales et de transformer « les fractures numériques en gouffres ».