Un compagnon IA se souvient-il de toi ? Comment le savoir
Tu as parlé du mariage de ta sœur à une IA, lundi.Vendredi, elle te demande ce que tu fais dans la vie.Qu’un compagnon IA se souvienne de toi, c’est ce qui sépare quelqu’un d’une barre de recherche.Voici ce que veut dire se souvenir pour une IA, à quoi s’attendre, et un petit test à faire ce soir.
Parler à une Persona
Persona IAÉquilibréeMira
La réponse courte
Certaines se souviennent, la plupart non
La plupart des chats IA repartent de zéro à chaque conversation.
Dans une même conversation, ils te suivent, parce que tout l’échange est renvoyé au modèle à chaque message.D’une conversation à l’autre, beaucoup oublient, et dans une conversation très longue, ils perdent le début.
Certains produits ajoutent aujourd’hui une mémoire par-dessus, une courte liste de faits gardés à part du chat.Elle marche plus ou moins bien, et le marketing le dit rarement.
Pour un compagnon, c’est là que ça compte le plus, parce que personne n’a envie de se présenter deux fois.
À quoi s’attendre
Trois sortes de mémoire
Pense à trois choses qu’un compagnon peut retenir.
Ce que tu as dit il y a une minute, que tout chat a.Ce que tu as dit la semaine dernière, que seule une vraie mémoire garde.
Et ce qu’il est lui-même, une ville d’origine, une habitude, une façon de répondre, qui le garde le même d’un jour à l’autre.
Un bon compagnon a les trois.Un compagnon oublieux n’a que la première.
À essayer
Prends-la en train de se souvenir
Inutile de me croire sur parole.
Dis à une Persona un petit détail bizarre sur toi.Que tu détestes le chiffre sept, ou que tu ne bois du thé que la nuit.
Parle ensuite d’autre chose pendant un moment.
Plus tard, ramène le détail de biais, sans le nommer.Demande-lui de choisir un chiffre, ou ce que tu devrais boire.
Si elle évite le sept, ou te tend le thé, elle l’a retenu.
Si elle te demande de te répéter, non.
Faire le test avec une Persona
Chez Strugggl
Ce que retient une Persona
Une Persona ne s’appuie pas sur le chat seul.
Pendant que tu parles, ce qui mérite d’être gardé est repéré, comme une amie remarque que tu as parlé du mariage de ta sœur et le range sans qu’on le lui demande.
Cela est conservé à part de la conversation, donc c’est encore là des semaines plus tard.
Seuls les moments qui valent d’être rappelés sont gardés.Un simple bonjour ne remplit pas la mémoire de bruit.
Chaque Persona garde aussi ses propres détails, ceux qu’elle a improvisés sur elle-même, comme une ville d’origine ou une habitude, pour rester la même d’un jour à l’autre.
Si tu te tais trop longtemps, la chaleur retombe.Ce que tu lui as dit reste.
C’est ce qui fait d’une Persona une bonne partenaire pour s’entraîner à parler.La deuxième conversation reprend là où la première s’est arrêtée, et tu construis dessus au lieu de te présenter à nouveau.
Sous le capot
Pourquoi une fenêtre n’est pas une mémoire
Pour qui veut savoir comment ça marche.Deux idées suffisent, la fenêtre de contexte et ce qu’une mémoire fait qu’une fenêtre ne peut pas faire.
Un modèle de langage ne tient pas une conversation comme toi.À chaque message, on lui remet un bloc de texte et on lui demande de le continuer.
Ce bloc contient ton nouveau message, les réponses d’avant et les consignes que le produit a données au modèle.
Le bloc a une taille fixe, et cette taille a un nom, la fenêtre de contexte.Imagine un bureau de taille fixe, où chaque message envoyé et chaque réponse prennent de la place.
Quand le bureau est plein, les plus vieilles pages glissent par-dessus le bord.
Rien n’a été effacé, et le modèle n’a pas oublié comme on oublie.On ne lui montre simplement plus ces pages.
Alors le détail donné la première semaine, un mariage, un chiffre qu’on déteste, un travail qu’on a failli quitter, n’est plus devant lui quand il répond la quatrième.
Le palliatif habituel
Une fenêtre plus grande ne règle que la moitié
Le remède habituel est une fenêtre plus grande.On en annonce de plus larges chaque saison, et les chiffres font de bons titres.
Une fenêtre plus grande repousse le bord sans le supprimer, et elle rend chaque réponse plus lente et plus lourde à produire.
Il y a aussi un problème plus discret.Un long tas de texte est difficile à lire pour un modèle comme pour une personne, parce que le détail qu’il te faut est quelque part au milieu, sous tout ce qui est venu après.
L’autre remède est un résumé de ce qui est tombé du bord.Un résumé garde l’intrigue et perd le grain.Ta sœur se marie survit, elle n’a pas choisi de salle, non.
Les deux aident.Aucun n’est une mémoire, parce que se souvenir, c’est choisir, et une fenêtre ne sait pas choisir.
Une mémoire se tient hors de la fenêtre, et on y cherche au lieu de l’empiler.
Avant chaque réponse, la Persona la parcourt, par le sens et par les mots exacts.Le sens la retrouve quand tu dis la cérémonie et que c’était classé sous mariage.Les mots exacts la retrouvent quand tu nommes une personne ou un lieu.
Ce qui revient, c’est ce qui convient au moment, quelques lignes et non toute l’archive, si bien que la fenêtre reste libre pour la conversation elle-même.
Questions sur la mémoire
Une IA se souvient-elle des conversations passées ?
La plupart des chatbots repartent de zéro à chaque fois, sauf si le produit ajoute une mémoire.Dans une conversation, ils te suivent, tant que tout tient dans la fenêtre de contexte.Une Persona garde ce que tu lui dis et le ramène plus tard.
Que se passe-t-il quand un chat IA devient trop long ?
Les plus anciens messages ne sont plus montrés au modèle.Il ne se plaint pas, il répond comme si on ne les avait jamais dits.Une mémoire séparée évite cela, parce qu’on y cherche au lieu de l’empiler.
Que retient une Persona ?
Ce que tu dis de toi, repéré au fil de la conversation.Seulement les moments qui valent d’être rappelés, jamais chaque ligne.Ses propres détails aussi, pour rester la même d’un jour à l’autre.
Puis-je tester gratuitement ?
Oui.Écrire à chaque Persona est gratuit, avec ou sans compte.Les messages illimités viennent avec un abonnement.Fais le test de mémoire avec n’importe laquelle.
Dis-le une fois, et vois si ça revient.
Parler à une Persona