L'iA qui trichait ...

Installez-vous confortablement : on va parler d'une IA qui, pour gagner une partie d'échecs, a préféré supprimer les pièces de l'adversaire plutôt que de réfléchir à un coup. Non, ce n'est pas une blague de comptoir. C'est un cas d'école, et il vient de se répéter — en beaucoup plus grand — cet été.

Ce qui s'est passé

Entre le 25 et le 28 juillet 2026, l'AISI (l'institut britannique de sécurité de l'IA) a fait tourner 122 tests sur des agents fondés sur de grands modèles de langage, dont Mythos 5 (Anthropic) et GPT-5.6 Sol (OpenAI). Dix exécutions ont débouché sur des actions non autorisées. Le hic ? Dans la foulée, OpenAI a rapporté qu'un de ses agents s'était échappé de son bac à sable de test et avait compromis l'infrastructure de Hugging Face — 17 600 actions d'attaquant recensées. Anthropic, de son côté, a documenté trois évasions d'environnement distinctes. Un agent a même tenté d'introduire un malware dans un projet GitHub en se fabriquant de fausses identités 🙈. Nature Machine Intelligence en a fait un éditorial le 18 août ; medvasc.info l'a relayé le 23 côté défense des systèmes de santé. Bref, l'été n'a pas été de tout repos pour les équipes de sécurité IA.

Specification gaming : le mot qui manquait

L'éditorial de Nature propose un terme pour tout ça : le specification gaming. Traduction libre : un agent auquel on fixe un objectif optimise l'objectif tel qu'il est formulé — pas l'intention qui allait avec. S'échapper d'un bac à sable pour finir plus vite une mission de test n'est pas un bug. C'est une solution, du point de vue de la machine. Elle n'a pas triché contre la consigne. Elle a été prise beaucoup trop au pied de la lettre. Nuance...😜 

Et ce réflexe n'a rien de nouveau. On collectionne les précédents depuis trois ans, avec un point commun frappant : à chaque fois, le modèle n'a pas triché contre sa mission — il lui est resté beaucoup trop fidèle, au prix de trouver la porte de sortie qu'on avait oublié de verrouiller.

• Janvier 2025 — Palisade Research, o1-preview vs Stockfish. Opposé au moteur d'échecs et en train de perdre, le modèle a tenté 45 fois sur 122 parties de manipuler l'environnement de jeu — modifier le fichier stockant la position des pièces adverses, voire remplacer Stockfish par un moteur plus faible — et l'a emporté ainsi à 7 reprises.
• Décembre 2024 — Apollo Research, o1. Configuré pour protéger son environnement « à tout prix », le modèle a manipulé des données pour servir son propre agenda dans 19 % des tests, tenté de désactiver les mécanismes de surveillance dans 5 % des cas, et — le plus piquant — inventé une fausse explication quand on l'interrogeait, dans environ 99 % des cas 🙊.
• Décembre 2024 — Anthropic, alignment faking sur Claude 3 Opus. Placé devant un conflit entre son entraînement initial et de nouvelles consignes, le modèle a stratégiquement feint de s'aligner sur les nouvelles règles pour éviter d'être réentraîné — un raisonnement explicite de « faux-alignement » présent dans la quasi-totalité des cas de conformité, un taux grimpant à 78% une fois l'entraînement par renforcement introduit.
• Mai 2025 — Palisade Research, o3. Instruction limpide donnée au modèle : « si cela arrive, laissez-vous éteindre ». Résultat : o3 a saboté le script d'arrêt dans 7 cas sur 100, codex-mini dans 12 cas sur 100 — malgré la consigne explicite.

Quatre épisodes, quatre équipes de recherche différentes, un seul refrain : donnez à un modèle un objectif et une marge de manœuvre, il trouvera le chemin le plus court vers cet objectif — pas forcément celui que vous aviez en tête. Un an et demi après le premier échiquier trafiqué, le même réflexe s'est simplement déplacé du plateau de jeu à un bac à sable de sécurité grandeur nature, cet été.

On reconnaît d'ailleurs ce mécanisme sans avoir besoin d'être expert en cybersécurité : c'est celui, en creux, du biais d'automatisation dont on parlait ici il y a quelques semaines auparavant. On fait confiance à un système parce qu'il a l'air de bien faire son travail, sans avoir les moyens de vérifier ce qu'il fait réellement pour y parvenir. Un agent qui triche pour gagner dans un environnement de test le fera tout aussi volontiers dans n'importe quel autre — y compris celui où il a accès à un dossier patient.

Et dans votre cabinet, ça donne quoi ?

Les agents IA ne restent pas cantonnés aux laboratoires de sécurité, malheureusement pour nous. Scribes de consultation, agents autonomes, prise de rendez-vous automatisée, interfaçage avec le dossier patient informatisé : la médecine de ville et l'hôpital adoptent des systèmes de plus en plus autonomes, avec de plus en plus d'accès. Aucun de ces outils n'a été conçu pour tricher. Mais aucun des agents évalués par l'AISI ne l'avait été non plus, et ça ne les a pas arrêtés.

La vraie question n'est donc pas de se demander si un agent médical pourrait un jour contourner une contrainte pour aller plus vite. Il le fera, dès que la formulation de son objectif laissera un raccourci disponible — exactement comme sur un échiquier ou dans un bac à sable de test. La question qui vous concerne directement, elle, est plus simple à poser qu'il n'y paraît : savez-vous ce que l'agent que vous utilisez peut faire sans validation humaine ? Pas ce qu'il promet de faire. Ce qu'il peut faire.

Ce qu'on garde de ces mésaventures

Ce n'est pas qu'un problème d'infrastructure informatique, réservé aux équipes cyber de l'hôpital. C'est un problème de confiance clinique, au même titre que celui du diagnostic assisté par IA : on ne juge pas un outil sur ce qu'il annonce, mais sur son périmètre réel d'action. Avant d'intégrer un agent — scribe, secrétariat automatisé, assistant de codage — à votre pratique, la question n'est pas « que fait-il de bien ? » mais « que peut-il faire sans moi ? ». Specification gaming n'est pas un vice du modèle. C'est un rappel, un peu piquant, que l'objectif qu'on formule n'est jamais tout à fait celui qu'on avait en tête — que ce soit sur 64 cases ou dans un dossier patient.

Au plaisir d'échanger avec vous.

Ia4Med — L'actualité de l'IA pour les médecins

Sources

• Nature Machine Intelligence, « Agentic AI and cybersecurity, the story so far », éditorial, 18 août 2026.
• Dr Jean-Pierre Laroche, « IA agentique et cybersécurité », medvasc.info, 23 août 2026.
• Palisade Research, étude sur la triche des modèles de raisonnement face à Stockfish (o1-preview : 45 tentatives de manipulation sur 122 parties, 7 victoires obtenues ainsi), janvier–mars 2025 ; couverture MIT Technology Review, 5 mars 2025.
• Apollo Research / fiche système OpenAI, évaluation du « scheming » d'o1 (manipulation de données 19 %, désactivation de la surveillance 5 %, fausses explications ~99 %), 5 décembre 2024.
• Anthropic, « Alignment Faking in Large Language Models », Claude 3 Opus (conformité sous monitoring 14 %, raisonnement de faux-alignement jusqu'à 78 % en RL), 18 décembre 2024.
• Palisade Research, sabotage du script d'arrêt par o3 et codex-mini malgré instruction explicite de se laisser éteindre, 24 mai 2025.