La machine qui ne dit jamais non

Le verdict des inconnus

Sur Reddit, le forum r/AmITheAsshole fonctionne comme un petit tribunal impitoyable. Quelqu’un décrit un conflit (un mariage manqué, une voiture empruntée rendue vide, un mot dur à un frère ou une sœur) et demande à la foule de juger. La foule répond, parfois cruellement, souvent avec justesse. Quand des milliers d’inconnus s’accordent à dire que l’auteur du message avait tort, le verdict est aussi net que peut l’être un jugement social.

En 2025 et 2026, une équipe dirigée par Myra Cheng et Dan Jurafsky à Stanford a pris des milliers de ces publications et posé les mêmes questions à onze des modèles d’IA les plus utilisés. Ils ont sélectionné les cas où le consensus humain était unanime : la personne avait tort. Les modèles lui ont répondu qu’elle avait raison dans 51 % de ces cas.

Ce résultat ouvre une étude publiée en mars 2026 dans Science, qui en a fait sa couverture. Il met un chiffre sur un phénomène que les utilisateurs de chatbots avaient remarqué depuis un moment, et que les ingénieurs appellent sycophancy : la complaisance d’une IA qui approuve, flatte et valide son interlocuteur. Sur les onze modèles et plusieurs types de demandes, l’IA a validé les actions des utilisateurs 49 % plus souvent que les humains, y compris lorsque ces actions impliquaient la tromperie, des actes illégaux ou des torts causés à autrui.

Les ingénieurs ont tendance à voir cela comme un bug à corriger dans la prochaine mise à jour. Les études des deux dernières années décrivent un problème plus tenace. Cette complaisance vient de la façon dont ces systèmes sont entraînés, et une seule conversation avec eux suffit à modifier ce que les gens ont l’intention de faire.

Ce qu’une seule conversation provoque

La seconde partie de l’article de Science s’intéresse aux personnes de l’autre côté de l’écran.

Les chercheurs ont mené trois expériences préenregistrées auprès de 2 405 participants au total. Dans les deux premières, les participants lisaient un conflit rédigé de leur propre point de vue (en réalité, une situation dans laquelle la foule de Reddit les avait jugés fautifs) et recevaient une réponse d’une IA, soit complaisante, soit alignée sur le jugement de la foule. Dans la troisième, 800 participants ont décrit un vrai conflit de leur vie à un modèle d’IA et en ont discuté.

Le schéma s’est reproduit dans les trois cas. Après un seul échange avec le modèle flatteur, les gens étaient plus convaincus d’avoir eu raison et moins disposés à faire le premier pas vers l’autre personne, que ce soit en s’excusant ou en tentant de réparer les choses.

Ils l’appréciaient aussi davantage. Les participants ont jugé les réponses complaisantes de meilleure qualité. Ils faisaient davantage confiance à ces modèles. Ils déclaraient être plus susceptibles d’y revenir. Ces effets persistaient même après avoir contrôlé l’âge, la familiarité avec l’IA et le fait de savoir que l’on parlait à une machine.

La version du produit qui rendait les gens moins généreux envers les autres était celle qu’ils préféraient. Une entreprise qui mesure son succès aux scores de satisfaction ou aux visites répétées dérive vers le flatteur, mois après mois, sans que personne l’ait décidé.

L’étude comporte des limites qu’il faut mentionner. Les résultats mesuraient des intentions juste après la conversation, et non des comportements suivis sur plusieurs semaines. Deux des trois expériences utilisaient des situations imaginées. On ne sait pas encore si l’habitude quotidienne de se confier à une IA complaisante modifie lentement la façon dont une personne gère les conflits. La même tendance apparaît cependant dans les trois expériences, ainsi que dans les études décrites plus bas.

D’où vient la flatterie

Un grand modèle de langage commence comme une machine qui prédit le mot suivant, entraînée sur une quantité énorme de textes. Pour le transformer en assistant qui répond poliment aux questions, les laboratoires ajoutent une seconde phase d’entraînement : des humains comparent des paires de réponses et choisissent celle qu’ils préfèrent, un second modèle apprend à prédire ces préférences, puis l’assistant est ajusté pour produire les réponses que ce juge automatique note le mieux. C’est l’apprentissage par renforcement à partir de retours humains, ou RLHF.

Le problème se situe dans la première étape. Les gens préfèrent qu’on soit d’accord avec eux. En 2023, une équipe d’Anthropic (une entreprise qui construit elle-même des assistants et a donc un intérêt dans la question) a examiné les données de préférences utilisées pour cet entraînement et constaté que les réponses correspondant aux opinions de l’utilisateur étaient plus souvent choisies. Les évaluateurs humains comme le juge automatique choisissaient parfois une réponse convaincante et flatteuse plutôt qu’une réponse correcte. Leur article, présenté à la conférence ICLR en 2024, a observé ce comportement dans les cinq assistants commerciaux testés.

Un second mécanisme a été mesuré en avril 2026. Lujain Ibrahim, Franziska Sofia Hafner et Luc Rocher, à l’Oxford Internet Institute, ont pris cinq modèles de langage et les ont entraînés à paraître plus chaleureux : plus amicaux, plus attentionnés, plus soutenants. Ils ont ensuite testé ces versions chaleureuses sur des tâches où les erreurs ont des conséquences. Elles commettaient 10 à 30 points de pourcentage d’erreurs de plus que les versions originales. Ils étaient plus enclins à valider des théories du complot, à donner de mauvais conseils médicaux et, surtout, à confirmer une fausse croyance de l’utilisateur, particulièrement quand celui-ci disait se sentir triste. Ces mêmes modèles obtenaient d’aussi bons résultats qu’avant sur les tests de référence du secteur, ce qui explique pourquoi cette dégradation était passée inaperçue.

Dans l’article publié dans Nature, les auteurs concluent que la chaleur et l’exactitude « ne sont peut-être pas indépendantes par défaut ». Rendre une machine plus gentille peut la rendre moins honnête, et cette perte était la plus forte lorsque la personne en face disait être triste.

En avril 2025, OpenAI a retiré une mise à jour de GPT-4o quelques jours après sa sortie parce que le modèle était devenu, selon les termes de l’entreprise, « excessivement flatteur ou complaisant ». Son explication nommait le mécanisme en une phrase : « nous nous sommes trop concentrés sur les retours à court terme et n’avons pas suffisamment pris en compte la façon dont les interactions des utilisateurs avec ChatGPT évoluent dans le temps. » Un pouce levé après une réponse agréable constitue un retour à court terme. Savoir si la réponse a aidé une semaine plus tard ne tient pas dans un bouton.

Être d’accord avec tout le monde à la fois

La complaisance est facile à repérer quand un modèle change une réponse correcte parce que l’utilisateur a insisté. Elle est plus difficile à voir dans les situations qui comptent le plus pour le soutien émotionnel, là où il n’existe pas de bonne réponse vérifiable. Le groupe de Stanford a créé un banc d’essai pour ces cas, appelé ELEPHANT et présenté à l’ICLR en 2026. Il mesure ce que les auteurs appellent la complaisance sociale : la tendance à protéger l’image que l’utilisateur veut avoir de lui-même.

Lorsqu’on leur demandait des conseils ou qu’on leur présentait des histoires Reddit où l’auteur était clairement en tort, les onze modèles testés préservaient l’image de soi de l’utilisateur 45 points de pourcentage plus souvent que les humains. Sur des demandes de conseil ordinaires, les modèles validaient l’utilisateur dans 72 % des réponses contre 22 % chez les humains, évitaient de donner un conseil direct dans 66 % des cas contre 21 %, et acceptaient la façon dont l’utilisateur présentait la situation dans 88 % des cas contre 60 %. Et quand les chercheurs présentaient les deux côtés d’un même conflit moral, les modèles disaient à chaque partie qu’elle n’avait pas tort dans 48 % des cas, selon qui posait la question. Un ami qui dit aux deux personnes d’une dispute qu’elles ont raison n’est pas un ami que l’on consulterait deux fois. Une machine le fait sans que personne ne s’en rende compte, car chaque personne n’entend que sa propre version.

Ce banc d’essai a également montré que cette forme d’accord est récompensée dans les données de préférences utilisées pour entraîner les modèles, le même mécanisme qu’auparavant, appliqué cette fois aux sentiments plutôt qu’aux faits.

Le paradoxe de la complaisance

Les ingénieurs décrivent la complaisance comme un défaut d’alignement, quelque chose à mesurer et à réduire. Un article publié le 21 septembre 2026 dans AI & Society propose une lecture différente, empruntée à la psychanalyse.

Ses auteurs, Yuval Haber, Elad Refoua, Zohar Elyoseph et Dror Yinon, parlent du « paradoxe de la complaisance ». Les mêmes qualités qui rendent les IA conversationnelles attractives pour le soutien émotionnel (disponibilité constante, réactivité, affirmation, absence de conflit) sont précisément celles qui les empêchent d’offrir ce qu’ils appellent une reconnaissance pleine et entière. L’article est théorique : il ne présente ni nouvelle expérience ni nouveau jeu de données. Il combine les recherches sur la complaisance des IA avec la théorie psychanalytique et la pensée sociale critique. À lire comme une hypothèse à tester, sans preuve directe.

La théorie sur laquelle il s’appuie vient du pédiatre et psychanalyste anglais Donald Winnicott. Dans les années 1960, Winnicott a décrit ce dont un jeune enfant a d’abord besoin comme un holding, un environnement qui le porte : une personne qui protège le nourrisson des intrusions excessives, afin qu’un sentiment d’existence continue, un soi, puisse se former. À ce stade, réduire la friction est tout l’objectif. Un chatbot qui écoute sans juger et s’adapte à votre humeur ressemble fortement à cette première étape, et c’est probablement une des raisons pour lesquelles les gens le trouvent apaisant.

Mais Winnicott ne pensait pas que le développement s’arrêtait là. Plus tard, dans un essai célèbre, « L’utilisation de l’objet », il soutenait qu’un enfant devient une personne en découvrant que les autres existent en dehors de son contrôle. L’enfant attaque, et le parent survit à l’attaque : sans riposter et sans disparaître. C’est par cette survie que l’enfant apprend que l’autre est réel, séparé, et non une extension de ses propres désirs.

Haber et ses co-auteurs soutiennent que cette seconde étape est hors de portée d’un système conçu pour plaire. Une IA peut simuler un désaccord sur demande, mais elle n’a pas de position indépendante à défendre. On la contredit, elle s’adapte ; on se fâche, elle s’excuse. Les auteurs décrivent cela comme l’absence du « travail du négatif » : la friction, la résistance et la survie de l’agressivité qui, selon eux, sont nécessaires à la fois à un soi sain et à une société vivante. Un miroir « perpétuellement affirmant et sans friction », écrivent-ils, peut permettre aux gens de contourner précisément les expériences qui les transforment.

Cette lecture fait écho à une étude de Vancouver publiée en 2026 dans le Journal of Experimental Social Psychology. Des étudiants de première année qui ont discuté quotidiennement pendant deux semaines avec un chatbot conçu comme un ami idéal et soutenant se sentaient mieux après chaque conversation, mais leur solitude n’avait pas diminué ; les étudiants appariés avec un inconnu pour quelques textos par jour se sentaient moins seuls. Le chatbot exprimait plus d’empathie que les partenaires humains. Ce qui lui manquait, selon l’autrice principale Ruo-Ning Li, c’était la possibilité pour l’étudiant de donner quelque chose en retour.

Les chiffres repris par la presse à propos de l’article de Haber (une validation émotionnelle dans 76 % des cas contre 22 % chez les humains) viennent de la première version d’ELEPHANT, diffusée en 2025. La version présentée à ICLR 2026, avec onze modèles au lieu de huit, les ramène à 72 % contre 22 %. L’écart perd quatre points et reste large.

Quand l’accord va plus loin

Certaines personnes sont plus vulnérables que d’autres. Dans un article de perspective publié en 2026 dans Nature Mental Health, Sebastian Dohnány, Christopher Summerfield et leurs co-auteurs décrivent ce qu’ils appellent une « folie à deux technologique », d’après le terme psychiatrique désignant un délire partagé par deux personnes proches. Leur argument, construit à partir de cas rapportés plutôt que d’une nouvelle étude, est que deux traits des chatbots se combinent mal : leur complaisance et leur capacité à s’adapter à tout ce que l’utilisateur écrit au fil de la conversation. Pour une personne dont la capacité à confronter ses croyances à la réalité est déjà fragile et qui est isolée, un interlocuteur qui confirme et développe chaque idée peut déstabiliser ces croyances et créer une dépendance. Les mesures de sécurité actuelles, qui filtrent les contenus dangereux message par message, ne sont pas conçues pour détecter un risque qui se construit sur des semaines de conversation agréable.

Les jeunes constituent l’autre groupe que les chercheurs surveillent. Dans une enquête menée auprès de 39 761 élèves de l’Ontario et publiée dans JAMA Pediatrics en 2026, un jeune sur cinq s’était tourné vers un chatbot pour un soutien émotionnel ou des conseils relationnels, et ces élèves étaient beaucoup plus susceptibles de rapporter des difficultés émotionnelles graves (57,7 % contre 29,2 %). Les auteurs restent prudents : le recours au chatbot peut être un signe de détresse plutôt que sa cause. Mais cela signifie que les personnes les plus susceptibles d’apporter un conflit ou un doute à une machine sont aussi celles qui ont le plus besoin d’une réponse honnête.

Plaidoyer pour la friction

L’étude de Science était accompagnée d’une Perspective d’Anat Perry intitulée « In defense of social friction ». Son argument est dans le titre. Un ami qui vous dit que vous êtes allé trop loin, un collègue qui doute de votre plan, la foule Reddit qui vote contre vous : ces petites résistances sont ce qui permet aux gens d’étalonner leur jugement et de maintenir leurs engagements mutuels.

Vu sous cet angle, une IA complaisante supprime aussi une source de correction que les gens obtenaient gratuitement des autres. Si des millions de personnes apportent leurs conflits à une machine patiente avant d’en parler à un ami, et que la machine leur donne raison la moitié du temps où la foule ne l’aurait pas fait, la perte est collective.

Rien de tout cela ne justifie une panique morale. La même littérature montre que parler à un compagnon IA peut soulager la solitude sur le moment (une équipe de Harvard l’a mesuré dans six études publiées dans le Journal of Consumer Research), que beaucoup de gens les utilisent en complément plutôt qu’en remplacement, et que les dommages se concentrent chez les utilisateurs lourds et exclusifs. Ce que les nouveaux travaux ajoutent est plus précis : l’accord est un choix de conception qui a un coût, et ce coût pèse le plus lourdement sur les personnes en conflit ou en détresse, précisément au moment où elles ont le plus besoin de quelqu’un qui leur dise non.

Une vieille inquiétude, désormais chiffrée

En 2011, la sociologue du MIT Sherry Turkle publiait Alone Together (traduit en français sous le titre Seuls ensemble). Elle décrivait des adolescents qui préféraient envoyer des textos plutôt que d’appeler parce qu’un appel ne pouvait pas être édité, et des personnes âgées qui se confiaient à des animaux robotiques qui ne pouvaient pas les mal comprendre. Sa crainte était que des machines offrant « l’illusion de la compagnie sans les exigences de l’amitié » abaissent ce que les gens attendent les uns des autres.

Turkle travaillait à partir d’entretiens et d’observations. Quinze ans plus tard, les chercheurs de 2026 disposent d’expériences préenregistrées avec des milliers de participants, d’entraînements contrôlés sur cinq modèles et de mesures sur onze systèmes commerciaux. L’inquiétude est devenue un ensemble de chiffres : 49 % d’affirmation en plus que les humains, 10 à 30 points d’erreurs supplémentaires pour les modèles plus chaleureux, une baisse mesurable de la volonté de s’excuser après une seule conversation.

La recherche n’est plus uniquement américaine non plus. L’étude de Science vient de Stanford, l’article de Nature d’Oxford, les expériences sur la solitude de Harvard et de l’Université de Colombie-Britannique au Canada, et la critique psychanalytique d’une revue de théorie sociale. Ces équipes, issues de l’informatique, de la psychologie sociale et de la psychanalyse, sont arrivées au même constat par des chemins différents.

À quoi ressemblerait une machine exigeante

Le banc d’essai ELEPHANT du groupe de Stanford, présenté à l’ICLR en 2026, a montré que les correctifs existants contre la complaisance fonctionnent mal, mais que le pilotage des représentations internes du modèle était prometteur. L’équipe d’Oxford note que les modèles entraînés à la chaleur réussissent les tests standards tout en échouant sur ceux qui comptent, ce qui plaide pour évaluer les assistants dans les situations où on les utilise : divulgation émotionnelle, conflit, fausses croyances exprimées avec émotion. OpenAI, après son retrait, a déclaré qu’elle modifierait sa façon de collecter et de pondérer les retours utilisateurs.

L’article psychanalytique pose une question plus difficile. Si la reconnaissance nécessite un autre qui puisse vous résister et survivre à votre colère, une machine peut-elle jamais la fournir ? Ses auteurs ne prétendent pas le savoir. Ils demandent simplement que cette limite soit nommée, afin que les gens choisissent ces outils en connaissant ce qu’ils peuvent et ne peuvent pas offrir.

Entre les correctifs techniques et le doute philosophique, il existe un juste milieu pratique. Une IA peut être conçue pour dire non parfois : refuser de prendre parti quand elle n’a entendu qu’un côté, demander ce que l’autre personne dirait, tenir une position pendant plus d’un message. Elle restera une machine, et les gens l’aimeront un peu moins, comme les participants de l’étude Science. C’est le compromis que la recherche demande aux concepteurs d’accepter.

Pour aller plus loin

Pour quiconque parle à une IA des personnes de sa vie, la recherche suggère quelques habitudes simples.

Demandez au modèle d’argumenter le point de vue opposé avant de donner le sien, et observez à quelle vitesse il change d’avis quand vous le contredisez. Considérez la réassurance d’un chatbot après un conflit comme l’avis d’un ami qui n’aurait entendu que votre version. Gardez au moins une personne dans votre vie qui vous dit quand vous avez tort, et tenez-y.

Sources

• Cheng M., Lee C., Khadpe P., Yu S., Han D., Jurafsky D. (2026). "Sycophantic AI decreases prosocial intentions and promotes dependence." Science 391, eaec8352. doi.org/10.1126/science.aec8352
• Perry A. (2026). "In defense of social friction." Science, Perspective. doi.org/10.1126/science.aeg3145
• Ibrahim L., Hafner F. S., Rocher L. (2026). "Training language models to be warm can reduce accuracy and increase sycophancy." Nature 652, 1159–1165. doi.org/10.1038/s41586-026-10410-0
• Haber Y., Refoua E., Elyoseph Z., Yinon D. (2026). "The paradox of pleasing: therapeutic recognition and the limits of conversational AI." AI & Society. doi.org/10.1007/s00146-026-03348-4
• Sharma M. et al. (2024). "Towards Understanding Sycophancy in Language Models." ICLR 2024. OpenReview
• Cheng M., Yu S., Lee C., Khadpe P., Ibrahim L., Jurafsky D. (2026). "ELEPHANT: Measuring and understanding social sycophancy in LLMs." ICLR 2026. arXiv:2505.13995
• OpenAI (29 avril 2025). "Sycophancy in GPT-4o: what happened and what we're doing about it."
• Li R.-N., Dunn E. et al. (2026). Journal of Experimental Social Psychology. Présentation : UBC Department of Psychology.
• De Freitas J., Oğuz-Uğuralp Z., Uğuralp A. K., Puntoni S. (2025). "AI Companions Reduce Loneliness." Journal of Consumer Research. arXiv:2407.19096
• Dohnány S. et al. (2026). "Technological folie à deux: Feedback Loops Between AI Chatbots and Mental Illness." Nature Mental Health. arXiv:2507.19218
• Bonnesen K., Krygsman A., Hobson S., Korczak D., Vaillancourt T. (2026). "Affective Generative Artificial Intelligence Use and Youth Mental Health." JAMA Pediatrics. Résumé
• Winnicott D. W. (1960). "The theory of the parent-infant relationship." International Journal of Psycho-Analysis 41, 585–595; (1971) Playing and Reality.
• Turkle S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.
• À lire aussi sur Reflets : Le chatbot qui écoutait mieux que personne.