Une étude souligne que les chatbots d'IA peuvent fournir des conseils médicaux potentiellement dangereux
Les chatbots IA ne sont pas encore prêts pour des conseils médicaux sûrs, selon une étude d'Oxford. Cette recherche révèle que malgré de bons résultats aux tests standardisés, ces outils échouent dans des scénarios cliniques réels et peuvent fournir des recommandations dangereuses. Les chercheurs appellent à la prudence pour les utilisateurs qui s'appuient sur ces technologies en matière de santé.
Les chatbots IA montrent des lacunes dans les conseils médicaux
Une étude menée par l'Université d'Oxford a révélé que les chatbots IA, bien qu'avancés techniquement, ne réussissent pas à fournir un soutien adéquat face à des problèmes médicaux personnels. Alors qu'ils obtiennent de bons résultats lors de tests standardisés sur leurs connaissances médicales, leur performance se dégrade lorsqu'il s'agit d'interagir avec des utilisateurs ayant besoin de conseils spécifiques.
Le Dr Rebecca Payne, responsable de l'étude, a déclaré : « Malgré tout le battage médiatique, l'IA n'est tout simplement pas prête à assumer le rôle du médecin. » Elle a aussi mis en garde : « Les patients doivent être conscients qu'il peut être dangereux d'interroger un modèle de langage large sur leurs symptômes. »
Des résultats inquiétants pour 1 300 participants
L'étude a impliqué 1 300 participants utilisant les modèles d'IA développés par OpenAI, Meta et Cohere. Ces utilisateurs ont été confrontés à une série de scénarios médicaux élaborés par des médecins et ont demandé au système IA comment résoudre leurs problèmes.
Les résultats ont montré que les réponses fournies par ces systèmes n'étaient pas meilleures que celles obtenues via des méthodes traditionnelles comme la recherche en ligne ou même le jugement personnel. De plus, l'étude a mis en lumière une déconnexion entre les utilisateurs et les LLM (modèles linguistiques larges), rendant difficile la compréhension des informations nécessaires pour obtenir un diagnostic précis.
Écouter est essentiel pour poser un bon diagnostic
Le Dr Payne souligne également l'importance cruciale du dialogue dans le processus médical : « Pour établir le bon diagnostic, il ne suffit pas de rappeler des faits. Écouter, sonder… sont essentiels. » Elle ajoute que cette étude démontre que les LLM ne peuvent actuellement pas gérer efficacement cette interaction dynamique avec ceux qui ne sont pas experts.
Elle précise : « Les médecins suscitent activement des symptômes pertinents parce que les patients ne savent souvent pas quels détails comptent », ce qui met en évidence la nécessité d'une approche personnalisée dans le domaine médical.
L'IA comme soutien administratif plutôt que clinique
L'équipe conclut que jusqu'à présent, l'IA n'est pas adaptée pour offrir directement des conseils médicaux fiables. Cependant, cela ne signifie pas qu'elle n'a aucune place dans le secteur médical. Le Dr Payne affirme : « Même si les LLM ont certainement un rôle dans les soins de santé. ce devrait être un rôle de secrétaire et non de médecin ».
Actuellement utilisée pour transcrire consultations et reformuler informations destinées aux patients ou au dossier médical, l'IA pourrait apporter une valeur ajoutée sans remplacer totalement la relation humaine entre médecin et patient.
Un appel à mieux orienter l'utilisation future de l'IA en médecine
Bien que sceptiques quant aux capacités actuelles des chatbots IA dans la médecine pratique, les chercheurs espèrent que leur étude contribuera à guider leur développement futur afin qu'ils puissent remplir efficacement leur potentiel sans compromettre la sécurité du patient.
