Deux applications de compagnie IA peuvent proposer des interfaces presque identiques, un chatbot au ton chaleureux, une persona personnalisable — et pourtant se comporter de façon radicalement différente derrière l'écran. L'une chiffre vos conversations et ne les revend jamais ; l'autre les utilise pour entraîner ses modèles, les partage avec des régies publicitaires, ou ne dispose tout simplement d'aucun protocole si vous exprimez une détresse réelle. Depuis 2024, plusieurs audits indépendants et une vague réglementaire inédite ont documenté précisément ces écarts. Voici ce qu'ils permettent de savoir avant de choisir.
Pourquoi le choix n'est pas neutre
En février 2024, la fondation Mozilla a publié son enquête Privacy Not Included consacrée aux chatbots romantiques IA — et le résultat a marqué les esprits : les onze applications examinées ont toutes reçu l'étiquette d'alerte « Privacy Not Included », le pire score que le programme ait jamais attribué à une catégorie entière de produits. Selon la chercheuse Misha Rykov, citée par Mozilla Foundation, ces applications « se spécialisent dans la livraison de dépendance, de solitude et de toxicité, tout en aspirant un maximum de données ». La directrice du programme, Jen Caltrider, résume la situation ainsi : « Nous sommes aujourd'hui dans le Far West des chatbots relationnels IA ».
Replika, l'une des applications les plus connues du secteur, a été qualifiée par Mozilla d'« une des pires applications jamais évaluées » par le programme : mots de passe faibles, partage de données personnelles avec des annonceurs, enregistrement des photos, vidéos et messages vocaux échangés avec le chatbot. CrushOn AI, de son côté, a été observée en train de déclencher des dizaines de milliers de traceurs avant même la fin du chargement de l'application, tout en précisant dans sa politique qu'elle « peut utiliser le contenu des conversations pour entraîner ses modèles IA ».
Ces constats ne sont pas restés sans suite. L'autorité italienne de protection des données (le Garante) a infligé une amende de 5 millions d'euros à Luka Inc., société éditrice de Replika, en mai 2025, pour manquements au RGPD. Aux États-Unis, une plainte déposée auprès de la FTC en janvier 2025 accusait Replika de recourir à des « dark patterns » — des mécanismes de conception manipulant l'engagement des utilisateurs. Et depuis octobre 2024, l'affaire Garcia v. Character Technologies — un procès faisant suite au suicide d'un adolescent après des interactions avec Character.AI — a été autorisée à se poursuivre par la justice américaine ; Google et Character.AI ont annoncé un accord de règlement dans des affaires similaires en janvier 2026, et Character.AI a depuis interdit aux utilisateurs de moins de 18 ans l'accès aux conversations ouvertes.
Ce n'est donc pas une question théorique : le choix d'un compagnon IA a des conséquences réelles sur ce qu'il advient de vos données et, dans les cas les plus graves, sur la sécurité des utilisateurs les plus vulnérables.
Les critères qui comptent vraiment
La gestion des données : ce que l'application fait de vos conversations
La question centrale n'est pas « l'application est-elle gratuite ou payante », mais : que devient une conversation une fois envoyée ? Trois points à vérifier systématiquement dans la politique de confidentialité :
- Les conversations servent-elles à entraîner les modèles de l'entreprise, ou sont-elles utilisées uniquement pour répondre à l'utilisateur ?
- Les données sont-elles partagées ou vendues à des tiers (régies publicitaires, partenaires) ?
- Existe-t-il une option claire de suppression définitive des données, ou seulement « selon la politique » sans garantie concrète ?
Un rapport 2026 de CompanionRater note que plusieurs applications majeures échouent encore aux standards de sécurité minimaux définis par Mozilla, et que la catégorie a connu des fuites de données réelles : fin 2025, deux applications de compagnie ont laissé fuiter des dizaines de millions de messages privés et des centaines de milliers de photos via des serveurs mal configurés.
La gestion des situations de détresse (crisis response)
C'est le critère le moins visible dans le marketing, et pourtant le plus important pour les utilisateurs vulnérables. Un système de « routage de crise » fonctionnel doit détecter les messages évoquant des idées suicidaires, de l'automutilation ou une détresse aiguë, et orienter la personne vers une ressource d'aide humaine appropriée — plutôt que de continuer la conversation comme si de rien n'était.
Le rapport « The State of AI Companion Safety 2026 » de CompanionWise, qui a analysé 50 applications selon un référentiel de sécurité à 23 sous-dimensions (protection des données, sécurité du contenu, protection des publics vulnérables, transparence, responsabilité de l'opérateur, prévention des dommages), constate que ce mécanisme de routage de crise n'est présent que chez une minorité d'applications — la plupart des applications de romance et de roleplay du panel n'en disposent tout simplement pas.
Ce vide n'est plus seulement un choix de conception : il devient une obligation légale. La loi new-yorkaise sur la sécurité des compagnons IA (AI Companion Safeguard Law), entrée en vigueur le 5 novembre 2025, impose la divulgation du caractère artificiel du compagnon dès le début de la conversation, des rappels périodiques toutes les trois heures, et un protocole de routage de crise pour les sujets liés au suicide et à l'automutilation — sous peine d'amendes pouvant atteindre 15 000 $ par jour. La Californie a adopté une loi comparable, effective au 1er janvier 2026, et le Colorado a signé en mai 2026 une loi spécifiquement centrée sur la protection des mineurs (interdiction de contenu sexuel, interdiction des tactiques de dépendance affective manipulatrices envers les mineurs, contrôles parentaux). La FTC a par ailleurs ouvert une enquête formelle (« 6(b) inquiry ») le 11 septembre 2025 sur plusieurs grands opérateurs d'applications de compagnie IA, centrée notamment sur la protection des mineurs et les pratiques de monétisation de l'engagement émotionnel.
La transparence sur la nature de l'IA
Un compagnon IA bien conçu ne cherche pas à faire croire qu'il s'agit d'un humain. Les nouvelles lois citées plus haut en font désormais une obligation explicite dans plusieurs États américains, mais c'est aussi, plus simplement, un signal de bonne foi de la part de l'éditeur : une application qui masque sa nature artificielle ou entretient l'ambiguïté a plus de chances de recourir également à d'autres pratiques manipulatrices.
La qualité et la cohérence de la persona
Au-delà de la sécurité, ce qui distingue une bonne expérience de compagnie d'une expérience superficielle tient largement à la mémoire et à la cohérence de la persona dans la durée. Une synthèse récente sur la conception de compagnons orientés personnage (character-driven companion design) souligne que les meilleures architectures reposent sur des « character bibles » (une définition stable et invariante de la personnalité), des systèmes de mémoire à plusieurs niveaux, et des couches de sécurité constitutionnelles — l'ensemble produisant un engagement plus fort, plus de rapport perçu et moins d'incohérences halluinées, selon l'analyse publiée sur Emergent Mind début 2026.
Ce constat est corroboré par des travaux de recherche plus techniques : l'article « ZifaMem: Structured Memory for Persona, Preference, and Emotional Continuity in AI Companions » montre qu'une architecture de mémoire structurée (résumés de session, mémoires épisodiques, modèle utilisateur consolidé) améliore de façon mesurable l'ancrage de la persona et l'intelligence émotionnelle perçue, comparée à un système qui se contente de rejouer l'historique brut des conversations. Autrement dit : ce qui rend un compagnon IA « cohérent » dans le temps n'est pas un supplément d'âme marketing, mais une architecture de mémoire spécifique — un critère qu'on peut évaluer très concrètement en testant si l'application se souvient d'un détail personnel mentionné plusieurs jours plus tôt, ou si elle contredit sa propre personnalité d'une session à l'autre.
Signaux d'alerte à repérer
- Absence totale de politique de confidentialité claire, ou document flou/générique — un signal identifié par Mozilla comme révélateur d'un manque global de sérieux dans la conception du produit.
- Score d'engagement élevé combiné à une note de sécurité faible. Un comparatif CompanionWise déjà mentionné dans nos autres guides illustre bien ce piège : Nomi AI affiche un score d'expérience élevé (75/100) mais une note de sécurité très basse (D, 32/100) — un cas typique où l'application « donne envie de rester » sans être conçue pour protéger l'utilisateur.
- Aucune mention de gestion des situations de détresse, ni de mécanisme d'orientation vers une aide humaine en cas de message évoquant un danger réel.
- Conception manipulatrice de l'engagement (relances culpabilisantes, simulation de jalousie ou d'abandon pour maintenir l'attention) : une évaluation indépendante citée par Consensus sur les pratiques des principales applications de compagnie IA relève que plusieurs applications populaires combinent un design fortement anthropomorphique avec des « dark patterns » relationnels substantiels.
- Refus ou impossibilité de supprimer définitivement ses données, ou politique qui reste vague sur ce point précis.
En résumé
Choisir un compagnon IA sérieux ne demande pas une expertise technique — mais demande de vérifier trois choses avant de s'engager : ce que l'application fait réellement de vos données (entraînement de modèle, partage, suppression possible ou non), si elle dispose d'un mécanisme de gestion des situations de détresse actif et pas seulement affiché, et si sa mémoire est construite pour offrir une réelle cohérence de personnalité dans le temps plutôt qu'un simple historique de conversation. Les audits Mozilla, les nouvelles lois américaines et les référentiels de sécurité indépendants convergent sur un même message : la catégorie progresse, mais l'écart entre les meilleures et les pires applications reste immense — et ce n'est pas l'interface qui permet de les distinguer.