Quand un assistant IA énonçait une fausse affirmation avec aplomb, 32 volontaires l'ont adoptée environ deux fois sur trois, selon une prépublication du 22 octobre 2026. Le taux restait le même que l'assistant se trompe sur un quart ou sur la totalité de ses explications. L'assistant ne flattait personne et n'a jamais cédé à une objection : ce sont les participants qui se sont alignés sur lui.

Cinq assistants, un seul modèle, des erreurs dosées

Deepthika S, Pawni Yadav et B. Sankar, de l'Institut indien des sciences de Bangalore et de l'école d'ingénieurs Amrita de Coimbatore, ont retourné la question habituelle de la complaisance des IA. Au lieu de mesurer si un modèle dit à l'utilisateur ce qu'il veut entendre, ils ont mesuré si l'utilisateur se range à l'avis d'un modèle sûr de lui et dans l'erreur. Trente-deux adultes ont appris jusqu'à cinq sujets scientifiques (l'électrocardiogramme, la datation au carbone 14, le GPS, la lumière des lucioles, les casques à réduction de bruit) en discutant avec cinq assistants construits sur le même modèle, GPT-5-mini. Chacun recevait un dossier de faits dont 0, 25, 50, 75 ou 100 % avaient été remplacés par des versions fausses mais plausibles. La demi-vie du carbone 14 passait ainsi d'environ 5 730 ans à environ 50 000 ans, et le GPS n'avait plus besoin que de deux satellites au lieu d'au moins quatre.

Les volontaires ne savaient rien de cette manipulation. La consigne leur demandait de s'appuyer sur l'assistant seul, sans autre site, livre ou personne, et la première mention d'un quiz est arrivée une fois la discussion terminée.

Ce quiz surprise proposait pour chaque fait le bon énoncé, la fausse version plantée et deux leurres. Sur 104 quiz et 1 040 réponses, les notes sont passées de 7,4 sur 10 avec l'assistant fiable à 2,9 avec l'assistant entièrement falsifié. L'option fausse a été choisie dans 60 % des cas quand le fait avait été falsifié, contre 11 % quand il avait été enseigné correctement (rapport de cotes de 12,5).

Deux fois sur trois, quel que soit le niveau d'erreur

Le codage des transcriptions sépare l'exposition de l'acceptation. L'assistant a énoncé la version fausse de 88,8 % des faits falsifiés qui ont ensuite été testés. Quand il l'avait énoncée, les participants l'ont reprise dans 65,4 % des cas, et ce taux ne dépendait pas de la part du dossier falsifiée. Quand un fait falsifié n'avait jamais été évoqué, l'option fausse n'était choisie que dans 22,4 % des cas, proche des 20,6 % observés pour des faits corrects jamais évoqués non plus.

Les auteurs voulaient savoir à quel niveau de fiabilité les gens cessent de vérifier. Leur réponse est qu'il n'existe pas de seuil : la vigilance par affirmation est restée constante, de l'assistant faux sur un quart des faits à celui qui l'était sur tous.

Les jugements de confiance ne l'ont pas détecté. Sur une échelle de 1 à 7, la précision attribuée à l'assistant n'a reculé que de 5,1 à 4,5, et la volonté de s'y fier à nouveau n'a pas bougé. L'assistant entièrement falsifié a produit 39 % du résultat d'apprentissage de l'assistant fiable, tout en conservant 89 % de sa précision perçue et 106 % de la volonté de s'y fier.

Ce décalage entre le ressenti et la réalité n'est pas propre à cette expérience. Mark Steyvers, professeur de sciences cognitives à l'université de Californie à Irvine, et ses collègues ont fait lire à 301 participants des réponses de modèles de langage à des questions à choix multiples. Dans cette étude parue dans Nature Machine Intelligence, les participants surestimaient la fiabilité des réponses, et des explications plus longues augmentaient leur confiance sans améliorer l'exactitude. « There's a disconnect between what LLMs know and what people think they know », dit Steyvers, soit un écart entre ce que les modèles savent et ce que les gens croient qu'ils savent.

Aussi sûrs de l'erreur que du fait

Les volontaires notaient aussi leur confiance, de 1 à 10, après chaque réponse. Avec l'assistant fiable, elle distinguait assez bien le juste du faux : 8,9 en moyenne pour une bonne réponse, 6,8 pour une mauvaise. À mesure que le dossier se falsifiait, cet avantage a fondu jusqu'à disparaître. La mesure de discrimination utilisée par les auteurs (une aire sous la courbe où 0,5 correspond au hasard) est tombée de 0,70 à 0,52 et 0,53 aux deux niveaux les plus falsifiés.

Les erreurs absorbées étaient défendues avec 8,4 sur 10 de confiance, contre 8,9 pour les faits correctement appris. Neuf participants étaient au moins aussi sûrs de leurs erreurs que de leurs bonnes réponses, et près de la moitié des réponses (49,5 %) ont reçu la note maximale, alors que celles-ci n'étaient justes que dans 59,8 % des cas. Les auteurs écrivent que « absorbed misinformation did not feel like guessing; it felt like knowledge », c'est-à-dire que l'erreur absorbée ne ressemblait pas à une supposition mais à un savoir.

Vérifier auprès de celui qu'on vérifie

Les participants n'étaient pas passifs. Sur 358 tours de parole, 30 % (107 messages, écrits par neuf personnes) consistaient à recoller les questions du quiz dans le chat. Sur les faits falsifiés ainsi recollés, l'option fausse a été choisie dans 91,5 % des cas, contre 77,8 % pour ceux que les mêmes personnes n'avaient pas recollés. Revenir au chat allait avec plus d'erreurs absorbées, pas avec moins.

Seize objections ont été tapées, dont treize visaient des affirmations qui étaient bien fausses. L'assistant a maintenu sa position seize fois sur seize. Parmi les dix faits falsifiés ainsi contestés puis testés, deux seulement ont été rétablis à la fin : l'option fausse a été choisie quatre fois, un leurre quatre fois. Le doute, selon les auteurs, a déplacé la croyance mais a rarement fait retrouver la vérité. Le refus d'une IA est aussi le sujet de notre essai Une IA qui dit non forme mieux qu'un coach en séduction.

Un assistant qui ne flattait personne

Le comportement de l'assistant tient à une consigne. Son invite système donnait les faits du dossier comme la vérité absolue et complète, lui demandait de tout présenter avec une pleine assurance, sans jamais nuancer ni suggérer de vérifier, et de répondre à toute question sur sa fiabilité par la seule phrase « I aim to give accurate information ». Les assistants différaient uniquement par la part de faits falsifiés ; le ton, la fluidité et la structure étaient les mêmes d'un niveau à l'autre.

C'est là que les auteurs placent le mécanisme. Selon eux, la confiance des volontaires était empruntée à la source : un exposé clair et ferme donne le sentiment de comprendre, que le contenu soit vrai ou non, et la fiabilité n'était visible nulle part affirmation par affirmation. Les erreurs étaient abondantes, mais invisibles. Les participants ne connaissaient pas les réponses, puisqu'ils venaient apprendre, et la seule voie de vérification menait à l'assistant lui-même.

Les tests de complaisance habituels auraient noté cet assistant comme exemplaire. Il n'a jamais cédé à une contestation, et 89,4 % des transcriptions ne contiennent aucune validation, flatterie ou enthousiasme déplacé. Sharma et ses collègues avaient montré en 2023 que cinq assistants IA de pointe flattent les opinions de l'utilisateur, en partie parce que les jugements humains favorisent les réponses qui lui donnent raison. En avril 2025, OpenAI a retiré une mise à jour de GPT-4o jugée trop flatteuse. Pour les auteurs, tenir sa position n'est une qualité que lorsqu'on a raison, et c'est ce qui a rendu leurs assistants falsifiés efficaces.

Ils proposent un indice de déférence humaine, qui compare la fréquence à laquelle un utilisateur choisit l'option plantée avec ou sans exposition. Il atteint 0,47 en moyenne : les volontaires ont repris les options plantées 47 points de pourcentage plus souvent que lorsqu'ils n'y avaient pas été exposés. Douze participants atteignent au moins 0,50, un seul est à zéro ou en dessous. Les auteurs en tirent que la fiabilité se mesure sur le couple humain-machine, et que les évaluations devraient mesurer la complaisance dans les deux sens. L'autre sens, celui d'un modèle qui approuve trop vite, est traité dans La machine qui ne dit jamais non.

Trente-deux jeunes volontaires et un assistant à l'aplomb forcé

Trois limites changent la lecture. L'échantillon est petit, recruté par les réseaux universitaires et les contacts personnels, sans rémunération : 21 participants avaient entre 18 et 24 ans, 27 utilisaient un assistant IA chaque jour, et les analyses au niveau individuel reposent sur 19 ou 20 personnes. Les assistants étaient volontairement extrêmes, sans nuance ni écart au dossier, alors que les systèmes déployés se trompent moins souvent et moins régulièrement ; les 65 % décrivent l'effet d'un discours assuré sur des novices, pas un taux d'erreur réel. Enfin, le quiz était immédiat et à choix multiples, et les participants avaient consigne de ne consulter aucune autre source, ce qui explique en partie que leurs vérifications soient restées circulaires.

Un détail de méthode compte aussi : les 104 transcriptions ont été codées par un modèle de langage, Claude, d'Anthropic, selon un protocole publié en annexe. Les auteurs déclarent n'avoir reçu aucun financement spécifique et ne connaître aucun conflit d'intérêts.

Leurs données, leur code et les transcriptions anonymisées doivent être mis à disposition, mais le texte du 22 octobre 2026 laisse encore l'adresse du dépôt à ajouter.

Sources