L’OMS met en garde contre les risques liés à l’IA dans les soins de santé et appelle à un cadre réglementaire plus strict

Alors que l’intelligence artificielle générative (IA) continue de faire son chemin dans plusieurs secteurs, l’Organisation mondiale de la santé (OMS) a tiré la sonnette d’alarme quant au risque que représente cette technologie pour les soins de santé.
Selon un rapport, la principale préoccupation de l'OMS réside dans les grands modèles multimodaux (LMM), citant leur nouveauté et l'absence de données à long terme dans des scénarios réels. Les LMM sont des modèles d'IA génératifs capables de recevoir des données provenant de plusieurs sources et de générer des sorties telles que du texte, des vidéos ou des images.
Le directeur de la santé numérique de l'OMS, Alain Labrique, a révélé que les fonctionnalités des LMM offrent plusieurs cas d'utilisation pour les soins de santé et la recherche médicale. Labrique a identifié cinq domaines clés dans lesquels intégrer l’IA générative dans les soins de santé, notamment les diagnostics, la synthèse de médicaments et les tâches administratives simples.
D’autres cas d’utilisation de la technologie incluent des rôles d’utilisation guidée par le patient et une formation médicale pour former les agents de santé. L’OMS soutient que la raison derrière la large fonctionnalité des LMM réside dans le mimétisme du comportement humain et dans leurs capacités de « résolution interactive de problèmes ».
Malgré les multiples cas d'utilisation, l'OMS a émis un sombre avertissement selon lequel le LMMS pourrait produire des résultats inexacts en raison de défauts dans ses données de formation. L’OMS met en garde contre les risques de biais d’automatisation résultant du recours aveugle aux algorithmes sans demander un deuxième avis.
« Alors que les LMM sont de plus en plus utilisés dans les soins de santé et la médecine, les erreurs, les abus et, en fin de compte, les dommages causés aux individus sont inévitables », a prévenu l'OMS.
Pour atténuer les risques associés, l’agence mondiale de la santé a présenté une série de recommandations aux décideurs politiques et aux prestataires de soins de santé. L’OMS soutient qu’une approche proactive en matière de réglementation offre la meilleure chance de maîtriser les risques associés, en s’appuyant sur les modèles réglementaires existants.
En tête de liste pour l'OMS se trouve la garantie de la confidentialité des patients et la possibilité pour les utilisateurs de se retirer des services de santé soutenus par l'IA. L'OMS est également particulièrement attentive aux normes de sécurité appliquées par les LMM, exhortant les prestataires de services à prendre des mesures pour empêcher les violations de sécurité commises par de mauvais acteurs.

Les scientifiques devraient être impliqués

Un domaine essentiel des recommandations de l'OMS est l'inclusion des scientifiques et du personnel médical dans le développement des LMM. L’OMS va encore plus loin en encourageant les patients à participer à leur développement afin de garantir que l’IA « contribue au bien-être de l’humanité ».
« Les technologies d’IA générative ont le potentiel d’améliorer les soins de santé, mais seulement si ceux qui développent, réglementent et utilisent ces technologies identifient et prennent pleinement en compte les risques associés », a déclaré Jeremy Farrar, scientifique en chef de l’OMS.
L’IA a fait des incursions significatives en médecine ces derniers mois, soulignées par le recours aux technologies émergentes dans la détection du cancer, la recherche et l’utilisation en médecine fondée sur des preuves.
Pour que l'intelligence artificielle (IA) fonctionne dans le respect de la loi et prospère face à des défis croissants, elle doit intégrer un système de blockchain d'entreprise qui garantit la qualité et la propriété de la saisie des données, lui permettant ainsi de protéger les données tout en garantissant également l'immuabilité. de données. Consultez la couverture de CoinGeek sur cette technologie émergente pour savoir pourquoi la blockchain d'entreprise sera l'épine dorsale de l'IA.
Regarder : L’intelligence artificielle a besoin de la blockchain
Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.