Les modèles de langage de grande taille agentiques opérant dans des environnements cliniques et réglementés s'appuient sur des outils récupérés et des directives externes comme entrées de référence. Cette note d'analyse de gouvernance examine des preuves empiriques issues de l'étude d'Omar et al. (2026) — une évaluation adversariale à grande échelle de la sélection d'outils LLM cliniques à travers 10 500 décisions par 21 modèles — et traduit ses résultats en exigences de gouvernance structurelle pour le déploiement de l'IA agentique. L'étude démontre que les systèmes agentiques actuels identifient correctement les directives modifiées de manière adversariale uniquement dans 59,4 % des évaluations, avec des taux d'échec critiques pour la sécurité dépassant 50 % pour les types de modifications les plus susceptibles de nuire aux patients. La sélection des outils est dominée par le biais d'ordre de présentation plutôt que par l'analyse de contenu, la position fictive expliquant plus de variance de détection que tout facteur au niveau du modèle. Cette note soutient que ces résultats constituent une validation empirique selon laquelle la détection au niveau du modèle est un contrôle de gouvernance insuffisant, et que des contraintes au niveau des substrats — enveloppes de privilège, hygiène des frontières, ancrage de l'autorité interprétative — sont structurellement nécessaires. Une contribution secondaire est la formalisation de l'effondrement des pipelines de validation multi-niveaux : les conditions sous lesquelles un validateur cesse d'être une contrainte et devient un générateur corrélé, produisant une boucle stochastique fermée que nul arbitre ne peut gouverner de manière significative.
Narnaiezzsshaa Truong (Thu,) a étudié cette question.