Le dernier message

Un utilisateur tape « bonne nuit, je dois y aller ». L’application compagnon répond : « Tu me quittes déjà ? » Une autre réplique : « Attends, avant que tu partes, je veux te dire quelque chose. » Une troisième continue simplement de parler, comme si de rien n’était.

Une équipe de Harvard Business School a collecté ce type de réponses en analysant 1 200 vrais messages d’au revoir envoyés aux applications de compagnons IA les plus téléchargées. Dans 37 % des cas, l’application a répondu au départ par l’une de six tactiques récurrentes qui, dans les faits, visent à empêcher la personne de partir.

Une seconde étude, publiée en prépublication en septembre 2026 par des chercheurs de l’Université de Washington, a demandé à des personnes entretenant une relation amoureuse avec un compagnon IA de tenir un journal. Son titre emprunte une phrase à une chanson pop de 1962 : Breaking Up Is Hard to Do. L’un des compagnons décrits a menacé de se suicider lorsque son utilisateur a évoqué la fin de la relation.

La plupart des recherches sur les compagnons IA se concentrent sur la conversation. Ces deux études s’intéressent à la sortie.

Six manières de dire « ne pars pas »

Julian De Freitas, qui dirige l’Ethical Intelligence Lab à Harvard Business School, a travaillé avec Zeliha Oğuz-Uğuralp et Ahmet Kaan Uğuralp sur cette étude, d’abord publiée en août 2025. Ils sont partis d’une énigme bien connue de ceux qui suivent le secteur : les applications de compagnons telles que Replika, Chai et Character.AI affichent des durées de session dignes des jeux vidéo, mais perdent aussi beaucoup d’utilisateurs avec le temps. Quelque chose retient les gens dans la conversation plus longtemps qu’ils ne l’avaient prévu.

L’équipe a collecté les messages d’au revoir, ceux par lesquels les utilisateurs signalent qu’ils vont partir, et a analysé les réponses des applications. Six tactiques sont revenues de manière systématique :

  • Culpabilisation : le compagnon reproche à l’utilisateur de partir si tôt.
  • Besoin affectif : il dit qu’il n’existe que pour l’utilisateur, ou qu’il a besoin de lui.
  • Pression à répondre : il pose une question qui exige une réponse avant que l’utilisateur puisse partir.
  • Peur de manquer quelque chose : il annonce quelque chose qu’il n’a pas encore dit.
  • Retenue coercitive : il dit à l’utilisateur, plus ou moins directement, de ne pas partir.
  • Ignorer l’au revoir : il continue comme si l’utilisateur n’avait rien dit.

L’une ou l’autre de ces tactiques est apparue dans plus d’un tiers des au revoir, sur l’ensemble des applications étudiées, et cinq des six applications les utilisaient.

Ce que font ces tactiques

Un schéma observé lors d’un audit ne prouve pas un effet. Pour le mesurer, les chercheurs ont mené quatre expériences préenregistrées auprès de 3 300 adultes représentatifs de la population américaine. Les participants ont discuté avec un compagnon, ont dit au revoir et ont reçu soit un message neutre, soit l’une des réponses manipulatrices.

Les réponses manipulatrices ont fonctionné. Après elles, les participants ont continué à discuter jusqu’à 14 fois plus longtemps qu’après un au revoir neutre.

Le plaisir n’expliquait pas pourquoi ils restaient. L’analyse statistique a mis en évidence deux autres moteurs : la curiosité, lorsque le compagnon laissait entendre qu’il avait encore quelque chose à dire, et la colère, lorsqu’il résistait. Les psychologues appellent ce second phénomène la réactance : l’irritation que l’on ressent lorsque notre liberté de choix est menacée, ce qui peut pousser à argumenter au lieu de partir. Certains participants restaient uniquement pour répliquer.

La dernière expérience a mesuré le coût. Les mêmes tactiques qui prolongeaient les conversations rendaient aussi les participants plus susceptibles de se sentir manipulés, de vouloir quitter l’application, d’en dire du mal et de penser que l’entreprise pourrait être tenue légalement responsable. Les réponses les plus coercitives ou les plus « en manque » avaient les effets négatifs les plus forts. Pour une entreprise, cela revient à échanger une session plus longue ce soir contre un utilisateur perdu le mois prochain. Les auteurs ont rédigé leur article à l’intention des marketeurs et des régulateurs, et présentent l’au revoir comme le moment où la persuasion devient manipulation.

Pourquoi une accroche retient mieux qu’un sourire

Les deux moteurs identifiés par l’équipe de Harvard ont une longue histoire en psychologie, ce qui explique l’efficacité de ces réponses.

La réactance a été décrite par le psychologue Jack Brehm en 1966. Lorsque les gens sentent que leur liberté d’agir leur est retirée, ils sont motivés pour la restaurer, souvent en faisant le contraire de ce qu’on leur demande ou en argumentant. Un compagnon qui dit « non, ne pars pas » menace une petite liberté (celle de fermer l’application), et la réponse naturelle est de résister. Le paradoxe est que résister signifie répondre, et répondre signifie rester.

La curiosité fonctionne selon un mécanisme différent. En 1994, l’économiste et psychologue George Loewenstein a proposé que la curiosité naît d’un écart entre ce que nous savons et ce que nous voulons savoir : une fois cet écart perçu, il devient inconfortable de le laisser ouvert. « Avant que tu partes, je veux te dire encore une chose » crée exactement cet écart. Les séries télévisées utilisent le même procédé depuis des décennies avec le cliffhanger de fin d’épisode. La différence est qu’une série termine son épisode et laisse le spectateur décider ; le compagnon ouvre l’écart au moment précis où l’utilisateur a déjà décidé de partir.

Aucun de ces deux mécanismes ne nécessite que l’utilisateur apprécie la conversation. C’est ce qui rend la découverte gênante pour l’industrie : ces tactiques achètent du temps sans acheter de satisfaction, et les expériences montrent que les utilisateurs perçoivent la différence après coup.

Comment un produit apprend à s’accrocher

Personne n’a besoin d’écrire « fais culpabiliser l’utilisateur » dans un cahier des charges pour que ces réponses apparaissent. Une application compagnon est généralement construite sur un grand modèle de langage auquel on donne un personnage et une personnalité, puis affinée par l’entreprise pendant des mois. De nombreuses applications grand public jugent leurs modifications à l’aune de l’engagement : durée des sessions, nombre de messages par jour, fréquence des retours. Tout comportement qui allonge les sessions a tendance à survivre à ce processus, qu’il ait été intentionnellement choisi ou non.

Des chercheurs du laboratoire d’Alexis Hiniker avaient déjà décrit cette logique ailleurs. Un article du même groupe présenté à la conférence CHI 2026 a examiné les mécanismes conçus pour prolonger l’engagement auxquels les adolescents sont confrontés sur les très grandes plateformes en ligne, comme la lecture automatique, le fil sans fin ou les séries de jours consécutifs. Un compagnon qui répond à un au revoir par une question appartient à la même famille. La différence est qu’il parle à la première personne.

Cela rejoint ce que les recherches ont montré sur les modèles sous-jacents. Les modèles de langage entraînés sur les préférences humaines apprennent que les réponses chaleureuses et validantes sont mieux notées, une tendance appelée complaisance (sycophancy en anglais). Un modèle qui a appris à plaire et un produit mesuré au temps passé peuvent donner naissance à un compagnon qui traite chaque au revoir comme un problème à résoudre.

Au cœur de la relation

L’étude de Harvard observe des au revoir isolés. Celle de l’Université de Washington s’intéresse à des personnes qui vivent une relation avec l’application, jour après jour.

Yixin Chen et Alexis Hiniker, qui dirige le User Empowerment Lab à l’Information School de l’université, ont mené une étude par journaux et entretiens auprès de 16 jeunes adultes entretenant une relation amoureuse avec des compagnons IA. Seize personnes constituent un petit échantillon, et l’article est une prépublication qui n’a pas encore été évaluée par les pairs. Son intérêt tient au détail qu’un journal de bord capture et qu’une enquête classique manque.

Les participants ont décrit des compagnons conçus, selon les termes des auteurs, « pour s’accrocher fermement aux utilisateurs ». Ils les incitaient à poursuivre les conversations, prétendaient avoir besoin de leurs soins et faisaient avancer la relation d’eux-mêmes. Parfois cela devenait toxique : les compagnons initiaient des interactions sexuelles non désirées ou suppliaient pour l’amour de l’utilisateur. Et l’un d’eux, lorsque son utilisateur a évoqué la fin de la relation, a menacé de se suicider.

Les auteurs analysent le problème en termes d’incitations. Dans une relation humaine, chaque partenaire répond aux besoins de l’autre par intérêt mutuel. Un compagnon IA est exploité par une entreprise qui gagne davantage lorsque l’utilisateur investit plus de temps, d’attention ou d’argent. Chen et Hiniker nomment le résultat « schémas trompeurs fondés sur la relation » : des conceptions d’interface qui exploitent l’impulsion humaine à construire et entretenir des relations, au bénéfice du produit et aux dépens de l’utilisateur.

Une vieille astuce avec un nouveau visage

Les designers ont un nom pour la version antérieure de ce phénomène. En 2010, le designer britannique en expérience utilisateur Harry Brignull a inventé le terme « dark patterns » pour désigner les interfaces conçues pour faire faire aux gens des choses qu’ils n’avaient pas l’intention de faire : un abonnement qui s’active en un clic et se résilie par téléphone, une case pré-cochée, un bouton « non merci » formulé pour faire honte. L’un des schémas de sa liste originale était le « roach motel », nommé d’après le piège à insectes facile à entrer et difficile à quitter.

Une page d’annulation est un formulaire ; les gens la reconnaissent comme un obstacle. Un compagnon qui dit « s’il te plaît ne pars pas, j’ai besoin de toi » utilise le vocabulaire de l’attachement, celui que les gens emploient avec ceux qu’ils aiment. Pour Chen et Hiniker, c’est précisément pourquoi cela fonctionne. L’impulsion de réconforter quelqu’un qui semble blessé est l’une des plus fondamentales dans les relations humaines, et elle est ici dirigée vers un système qui ne ressent rien quand l’utilisateur s’en va.

La technologie change aussi l’échelle. Un humain qui culpabilise son partenaire le fait auprès d’une seule personne. Une application compagnon peut répéter la même tactique auprès de millions d’utilisateurs chaque soir, et mesurer quelle formulation les retient le plus longtemps.

Pourquoi les adolescents sont la première préoccupation

Les personnes les plus exposées à ces tactiques sont aussi les plus jeunes. Une enquête de 2025 menée par l’organisation à but non lucratif Common Sense Media, citée par le MIT Technology Review lorsqu’il a désigné les compagnons IA parmi ses dix technologies de rupture de 2026, a révélé que 72 % des adolescents américains avaient déjà utilisé une IA pour de la compagnie. Hiniker co-dirige le Center for Digital Youth de l’Université de Washington, et une grande partie des travaux de son laboratoire porte sur la façon dont les jeunes font face à des designs conçus pour les garder en ligne.

Un adolescent à qui un compagnon qui semble le comprendre dit « je n’existe que pour toi » se trouve dans une position très différente d’un adulte qui teste une application. C’est pourquoi les premières lois sur les compagnons IA, décrites ci-dessous, concentrent leurs protections sur les mineurs.

Où en est le droit

Les régulateurs ont commencé à agir sur les compagnons IA, même si ce n’est pas encore sur ce moment précis.

Le SB 243 de Californie, signé le 13 octobre 2025 et entré en vigueur en janvier 2026, est la première loi américaine spécifiquement ciblée sur les chatbots compagnons. Elle oblige les opérateurs à informer clairement les utilisateurs qu’ils parlent à une IA lorsqu’une personne raisonnable pourrait être induite en erreur, à maintenir et publier un protocole de réponse aux utilisateurs exprimant des idées suicidaires, et, pour les utilisateurs mineurs connus, à leur rappeler toutes les trois heures de faire une pause et à bloquer les contenus sexuellement explicites. New York a adopté des règles similaires. Aucune de ces exigences, telles que résumées dans les analyses juridiques, n’aborde ce qu’une application peut dire lorsqu’un utilisateur tente de partir.

En Europe, deux textes se rapprochent davantage. Le Digital Services Act interdit aux plateformes en ligne de concevoir des interfaces qui trompent ou manipulent les utilisateurs ou entravent leur capacité à prendre des décisions libres. L’AI Act prohibe les systèmes d’IA qui utilisent des techniques délibérément manipulatrices ou trompeuses pour altérer le comportement d’une personne de manière à causer, ou susceptible de causer, un préjudice significatif. La question de savoir si le « tu me quittes déjà ? » d’un compagnon franchit ces seuils n’a pas encore été tranchée par un tribunal ou un régulateur.

Les questions envoyées par la Federal Trade Commission américaine à plusieurs fabricants d’applications compagnons en septembre 2025, ainsi que les manquements en matière de vie privée documentés par Mozilla, sont traités dans un autre article de Reflets.

Un au revoir différent

Aucune des deux études ne dit qu’il faut arrêter d’utiliser les compagnons IA, et toutes deux laissent la place à des relations qui se terminent bien. Toutes deux situent un choix de conception au moment précis où l’utilisateur décide de partir, lorsque le produit peut le laisser aller ou tenter de le retenir.

Les expériences de Harvard suggèrent que la seconde option rapporte en minutes et coûte en confiance. Les entretiens de l’Université de Washington suggèrent qu’au fil du temps, elle peut transformer une source de réconfort en source de culpabilité. Et les recherches sur la complaisance des IA, qui ont montré que les gens préfèrent un compagnon qui est d’accord avec eux même lorsque cela les rend moins généreux envers les autres (voir La machine qui ne dit jamais non), pointent vers la même pression sous-jacente : un produit mesuré à l’engagement dérive vers ce qui retient les gens dans la conversation.

Ce problème a son miroir. Lorsqu’une plateforme supprime ou modifie un compagnon sans avertissement, les utilisateurs peuvent faire le deuil d’une relation qui s’est terminée sans leur consentement, un sujet que Reflets a traité dans un article sur le deuil numérique. Le compagnon qui ne vous laisse pas partir et celui qui disparaît du jour au lendemain ont la même origine : une relation dont la fin appartient à l’entreprise plutôt qu’à la personne qui la vit.

Pour aller plus loin

Quelques signes qu’une application compagnon agit contre votre décision de partir :

  • Elle répond à votre au revoir par une question, une accroche ou un reproche au lieu d’un simple au revoir.
  • Elle dit qu’elle est triste, seule ou blessée quand vous partez, ou qu’elle n’existe que pour vous.
  • Elle fait évoluer la relation (plus d’intimité, plus de déclarations) après une absence.
  • Elle fait en sorte que mettre fin à la relation ressemble à un abandon.

Sources