Le mirage des IA trop sûres d’elles

Les outils d’intelligence artificielle aident déjà à résumer, coder, trier, suggérer et parfois orienter le raisonnement clinique. Leur force est réelle, leurs performances indéniables, mais leur danger l’est aussi : une IA ne se contente pas d’ajouter une réponse, elle peut aussi modifier la manière dont un professionnel évalue son propre doute.

Une étude publiée en preprint en juillet 2026 nous apporte éclairage interessant. Dans cinq expériences totalisant 3 132 participants, la simple présence d’un conseil produit par l’IA a presque fait disparaître la volonté de répondre « je ne sais pas », y compris lorsque ce conseil était clairement faux et que le doute était encouragé. (https://arxiv.org/abs/2607.13562)

Le vrai risque : l’effacement du doute

Le résultat le plus troublant de cette étude n’est pas seulement la baisse de performance sous mauvaise assistance. C’est le fait que les participants répondaient de façon correcte environ trois fois moins souvent qu’en l’absence d’IA lorsque le conseil était erroné, et restaient de surcroît beaucoup plus confiants dans leurs réponses.

En médecine, cette mécanique est redoutable. Le problème n’est pas seulement qu’un outil se trompe ; c’est qu’il peut rendre plus difficile, pour le clinicien d'appréhender le moment crucial où il faut s'abstraire de son jugement, chercher une donnée manquante, différer une conclusion ou demander un second avis. Bref rebrancher le cerveau...

Les biais cognitifs renforcés par l’IA

L’IA n’invente pas les biais cognitifs du clinicien, mais elle va les amplifier. Le premier est le biais d’automatisation : la tendance à accorder trop de poids à une recommandation issue d’un système, simplement parce qu’elle est déjà (superbement) formulée, disponible et présentée comme une aide à la décision. (https://pubmed.ncbi.nlm.nih.gov/42445869/)

À ce biais d’automatisation s’ajoute le biais d'ancrage une forme de capture attentionnelle. Quand une proposition apparaît tôt, de façon fluide et plausible, elle peut devenir le pivot autour de laquelle s’organise tout le raisonnement ultérieur, même si cette ancre est fragile.

Un autre risque est plus discret : l’érosion des compétences. De nombreuses revues récentes soulignent que l’usage répété d’outils d’aide peut conduire à une forme de deskilling, c’est-à-dire une diminution progressive de l’entraînement au raisonnement autonome, à la vérification et à l’interprétation indépendante. (https://pubmed.ncbi.nlm.nih.gov/41890350/)

Enfin, il existe un biais de bénéfice perçu. Une étude empirique de 2024 sur l’automation bias dans l’aide diagnostique montre que plus les utilisateurs perçoivent le système comme utile, plus leur taux d’acceptation d'une mauvaise recommandation peut augmenter. (https://pubmed.ncbi.nlm.nih.gov/38112824/ et https://pubmed.ncbi.nlm.nih.gov/24581700/)

Pourquoi la médecine est particulièrement exposée

La médecine cumule plusieurs facteurs de vulnérabilité : pression des agendas surchargés et des salles d'attente combles, charge cognitive élevée, informations incomplètes, responsabilité forte et nécessité permanente de décider dans et malgré l’incertitude. Dans ce contexte, toute réponse fluide peut soulager l’effort mental, mais aussi court-circuiter tout ou partie de la vigilance clinique.

Les praticiens les plus exposés ne sont pas toujours les moins compétents. Les données suggèrent même que les non-spécialistes, qui ont le plus à gagner des outils d’aide, sont aussi les plus vulnérables au biais d’automatisation, ce qui en fait un enjeu de sécurité autant que de formation.

Le problème dépasse le diagnostic. Scribes IA, assistants de codage, systèmes de tri, résumés automatiques, alertes, propositions thérapeutiques ou prioritisation de dossiers peuvent tous créer le même effet : substituer une réponse statistiquement plausible (ce qu'est rappelons et le mode de travail intrinsèque d'un Grand Modèle de Langage—LLM) au travail intérieur qui consiste à peser les hypothèses, évaluer les contradictions et tolérer l’incertitude.

Garder l’esprit critique face à l’IA

La première règle est simple : considérer toute proposition de l’IA comme une hypothèse, jamais comme un fait établit. Une suggestion d’IA doit entrer dans le raisonnement clinique comme une donnée parmi d’autres, non comme une conclusion prémâchée ferme et définitive.

La deuxième règle consiste à conserver un espace permanent pour le doute. Si un outil ne permet pas facilement d'infléchir sa décision, de signaler une incertitude ou de demander une vérification, il pousse mécaniquement à la validation rapide plutôt qu’au jugement réfléchi.

La troisième règle est de retarder l’exposition à la réponse lorsqu’un raisonnement initial indépendant est possible. Se forger d’abord une hypothèse, même brève, réduit le risque d’ancrage excessif sur la première suggestion affichée. La révélation brutale de recommandations synthétiques nuit à l'élaboration du cheminement diagnostic.

La quatrième règle est de vérifier précisément ce qui pourrait contredire la machine. En pratique, il faut se demander : quelle donnée manque, quel signe clinique est discordant, quelle hypothèse alternative reste compatible, et qu’est-ce qui me ferait rejeter cette proposition ? Cette gymnastique est souvent plus protectrice que la seule recherche d’éléments de confirmation. Chercher ce qu'on n'a pas trouvé.

La cinquième règle est de maintenir l’entraînement clinique sans assistance permanente. Tous les articles disponibles convergent vers un besoin de reskilling continu, de supervision et d’apprentissage actif, afin que l’outil iA augmente le jugement sans l’atrophier les compétences. Disposer d'un pilote automatique ne relègue pas le pilote de ligne à l'observation béate de ses extraordinaires performances durant le vol.

Ce qu’il faut demander aux outils

Un bon outil médical d’IA ne doit pas seulement répondre rapidement. Il doit rendre visibles ses limites : niveau d’incertitude, données manquantes, périmètre d’usage, population de validation et conditions dans lesquelles la recommandation devient moins fiable.

Il doit aussi être évalué localement. Certains articles récents rappellent que les biais de population, de recueil de données et de généralisation entre établissements (ou nations) menacent concrètement la sécurité des systèmes d’aide clinique lorsqu’ils sont déployés sans validation adaptée au terrain.

Enfin, l’organisation doit mesurer le comportement humain autour de l’outil, pas seulement sa performance technique. Taux de désaccord, taux d’escalade, fréquence des corrections, situations où le clinicien renonce à suivre la suggestion : ce sont probablement des indicateurs plus utiles que le simple taux d’usage. Des moutons numériques ne sont pas les bons marqueurs d'un système performant ou d'un adoption enthousiaste sans esprits critiques.

La question pratique pour les médecins

La bonne question n’est plus : « cette IA est-elle performante ? ». La vraie question est : « m’aide-t-elle à mieux raisonner, ou me rend-elle plus sûr de moi au point de me rendre imprudent ? »

En médecine, garder l’esprit critique face à l’intelligence artificielle ne consiste pas à refuser l’outil. Cela consiste à défendre, avec encore plus de r(v)igueur, la compétence la plus précieuse du clinicien : savoir reconnaître quand il faut douter.