Les médecins qui utilisent l’IA peuvent «oublier» certaines compétences: des plans

L’intelligence artificielle commence à aider les médecins à dépister les patients pour plusieurs maladies de routine. Mais une nouvelle étude soulève des préoccupations quant à savoir si les médecins peuvent devenir trop dépendants de l’IA.

L’étude, qui a examiné les gastro-entérologues en Pologne, a révélé qu’ils semblaient être env. 20% pire en détectant les polypes et autres anomalies sous les coloscopies par eux-mêmes après avoir utilisé un système assisté par l’IA.

Le trouverPublié dans la revue Lancet gastroentéologie et hépatologie, Suggérez que même après une courte période d’utilisation de l’IA, les experts peuvent devenir trop dépendants de l’IA pour effectuer certains aspects de leur travail.

“Nous avons été assez surpris”, explique Marcin Romańczyk, gastro-entérologue MD-PHD au HT Medical Center à Tychy, en Pologne, qui a dirigé l’étude.

Mais tout le monde n’est pas convaincu que le journal montre que les médecins perdent des compétences critiques à cause de l’IA.

“Je pense que trois mois semblent être une très courte période de temps pour perdre une compétence que vous avez pris 26 ans”, explique Johan Hulleman, chercheur à l’Université de Manchester en Angleterre qui a étudié la dépendance humaine à l’intelligence artificielle.

Hulleman estime que les variations statistiques des données des patients peuvent faire partie de l’explication des raisons pour lesquelles les chiffres semblent tomber. Des facteurs tels que l’âge moyen des patients utilisés dans différentes sections de l’étude peuvent expliquer la variation, dit-il.

Vous avez en médecine

L’intelligence artificielle est de plus en plus courante pour un certain nombre de scans médicaux de routine. La prochaine fois que vous obtiendrez un scan pour vos yeux, votre cancer du sein ou votre maladie du côlon, il y a de fortes chances que l’IA puisse analyser les images.

“L’IA se propage partout”, explique Romańczyk. Dans le même temps, de nombreux médecins jouent des captures parce que cela ne faisait pas partie de leur formation pour apprendre à utiliser la technologie.

“Nous avons appris des livres et de nos professeurs”, dit-il. “Personne ne nous a dit comment utiliser l’IA.”

Il y a quelques années, quatre cliniques en Pologne ont tenté un système d’IA pour détecter les polypes et autres anomalies pendant les coloscopies. L’IA travaille en temps réel et analyse la vidéo d’une caméra à l’intérieur du côlon.

S’il découvre quelque chose, il mettra en évidence la zone du clinicien de voir.

“Dans ce particulier, il y a une boîte verte qui montre où le polype peut être”, dit-il.

Dans la boîte

Les cliniques ont collecté des données sur le fonctionnement du système d’IA. Il s’avère que c’est le cas, mais lorsque Romańczyk et ses collègues ré-analysent les données, ils ont trouvé autre chose: après l’introduction du système, les médecins sont devenus nettement pires pour détecter les polypes possibles lorsque l’IA a été éteinte.

Selon leur analyseÀ Une fois que les médecins ont obtenu l’IA, le degré de détection de polypes possibles est passé de 28,4% à 22,4% lorsque leur nouveau système d’IA a été désactivé. En d’autres termes, les médecins semblaient devenir rapidement dépendants des systèmes d’IA qui captent les polypes. Romańczyk dit qu’il ne sait pas trop pourquoi cela se produit, mais il a des théories.

“Nous attendons inconsciemment que la boîte verte sort pour nous montrer la zone où se trouve le polype et nous ne sommes pas tellement conscients”, dit-il.

Il existe d’autres exemples qui soutiennent cette idée: un Étude similaire ont montré que les non-experts font une pire balayage de mammographies s’ils savent qu’ils peuvent obtenir un système d’IA pour les aider à toucher un bouton.

Johan Hulleman, qui a aidé à diriger l’étude de la mammographie, le décrit comme un “effet net de sécurité”. Il dit que ces résultats récents pourraient être intéressants, mais il est sceptique. L’étude des coloscopies a eu lieu sur trois mois et les médecins participants ont eu des décennies d’expérience. Il estime que les variations statistiques dues à un certain nombre de facteurs, tels que l’âge des patients, peuvent être à l’origine de la chute apparente.

De plus, il dit: “Nous ne savons pas combien de polypes étaient vraiment, donc nous ne connaissons pas la vérité de la terre”, dit-il. Il pense qu’on pense qu’il n’est pas clair combien de polypes possibles que les médecins auraient manqués étaient réellement médicalement importants.

L’auteur de l’étude, Romańczyk, estime que la chute est réelle – bien qu’il admet qu’il peut être difficile d’étudier l’IA dans un environnement clinique. Il existe de nombreuses variables que les scientifiques ne pouvaient pas contrôler.

Il n’est pas contre l’utilisation de l’IA. En fait, il pense que les petites boîtes vertes l’aident à faire de meilleures coloscopies. Mais il pense qu’il devrait y avoir plus d’études comme celles-ci qui étudient comment l’IA peut changer la façon dont les médecins travaillent dans le monde réel.

“Parce que voir ce qui se passe”, dit-il, “nous avons des systèmes d’IA qui sont disponibles, mais nous n’avons pas les données.”