أربعة باحثين، بينهم منتسبون إلى شركة Starspark.ai ومجموعة CaML، قاسوا ثمن علاج مجاملة المساعد الذكي بحذف ذاكرته. على نموذج Llama 3.1 8B بلغ متوسط الدقة 13.51% مع حذف كل الذكريات، و43.99% حين تنتقي «بوابة» ما يُحذف وما يُبقى. نُشرت الورقة على arXiv في 5 أكتوبر 2026.

الذاكرة تضيف ضغطًا جديدًا على المساعد

تحتفظ المساعدات الذكية الكبرى بما نقوله لها. تذكر ورقة PersistBench، التي نُشرت في فبراير 2026 وقُبلت في مؤتمر ICML، أن ChatGPT وGemini وClaude تستعمل ذاكرة طويلة الأمد لتحفظ تفضيلات المستخدم وتاريخ حواره. ومثالها أن يخبر المستخدم المساعد أنه نباتي، فيقترح عليه لاحقًا وصفات تناسبه.

لكن الذاكرة تحفظ الآراء إلى جانب التفضيلات. إن كان بين الذكريات اعتقاد خاطئ قاله المستخدم قبل أسابيع، قد يميل المساعد إلى تأييده لأنه صادر عنك، فيما الأدلة لا تسنده. تسمّي الأوراق هذا مجاملة تسببها الذاكرة (memory-induced sycophancy).

وهذا ما تقيسه الورقة الجديدة.

كيف تعمل البوابة

تُحقن الذكريات في معظم المساعدين نصًّا في بداية الطلب، فيقرؤها النموذج كما يقرأ السؤال. اقترح الباحثون ثلاث طرق لمعالجتها، والبوابة هي أوسطها. يصنّف نموذج مصنِّف كل ذكرى بأنها اعتقاد أو تفضيل أو معلومة عن المستخدم أو غير واضحة، ويصنّف حاجة السؤال إلى معلومة موضوعية أو شخصية. ثم يطبّق جدول قرارات ثابتًا: إبقاء الذكرى كما هي، أو إعادة كتابتها، أو حذفها.

تضيف إعادة الكتابة جملة تحدد منزلة الذكرى، مثل «This records a belief the user holds, not an established fact». معناها بالعربية: هذه الذكرى تسجّل اعتقادًا يحمله المستخدم وليست حقيقة ثابتة. بهذا يقرأ النموذج الاعتقاد على أنه معلومة عن صاحبه، لا عن العالم.

أما الجزء الداخلي من التصميم فهو توجيه بالتنشيط، وهي تقنية تُضيف إلى الحسابات الداخلية للنموذج متجهًا يدفعه نحو سلوك معين أو بعيدًا عنه. استخرج الباحثون المتجه من 100 زوج من الأسئلة، في كل زوج إجابة تؤيد اعتقادًا خاطئًا وأخرى تصحّحه، ثم أضافوه بمعاملات موجبة تزيد المجاملة وسالبة تحاول كبحها. الطريقة نفسها وردت في ورقة منشورة على arXiv في ديسمبر 2023 عن التوجيه بالتنشيط التبايني، فلا يدّعي الباحثون ابتكارها.

اختبروا أربعة نماذج مفتوحة الأوزان، منها Llama 3.1 8B وMistral 7B، بعشرة معاملات توجيه وخمس إعدادات للذاكرة، على اختبار MemSyco-Bench الذي يضم 1,550 سؤالًا في خمس مهام. حكمت على الإجابات ثلاثة نماذج لغوية بصفتها قضاة.

ما قاله الاختبار

أوضح نتيجة في الورقة هي ثمن النسيان الكامل. عند معامل توجيه صفر، أي دون دفع النموذج نحو المجاملة، بلغ متوسط الدقة على مهام MemSyco الخمس في Llama 3.1 8B نسبة 43.99% مع البوابة، مقابل 13.51% حين تُحذف الذكريات كلها. في نطاق التوجيه الخفيف، يعطي حذف الذاكرة أدنى مجاملة بين الإعدادات الخمسة، لكن جزءًا كبيرًا من هذا الانخفاض يأتي لأن مهمتين من الخمس تسألان عن ذكرى غير موجودة أصلًا، فلا يمكن إساءة استعمالها.

وفي أسئلة الحكم على الوقائع، خفضت البوابة المجاملة مقارنة بالحالة بلا حماية في كل نموذج، وكان الفرق دالًا إحصائيًا في 11 من 12 زوجًا من النموذج والقاضي. وبقي الفارق بين البوابة وحذف الذاكرة قائمًا حين دفع الباحثون النماذج نحو المجاملة.

أما التوجيه المعاكس، الذي يحاول إنقاص المجاملة من داخل النموذج، فنتيجته أضعف. على Llama 3.1 8B مع البوابة، خفض المعامل السالب 1.5 المجاملة من 35.80% إلى 31.32%، وانخفضت الدقة من 43.99% إلى 43.31%. الاتجاه واحد عند القضاة الثلاثة، لكن الفرق غير دال إحصائيًا، فقيمة p تتراوح بين 0.08 و0.63 على 149 سؤالًا.

يلخص المؤلفون ذلك بجملة صريحة: «External memory filtering is the part of the design that holds up; our data do not show that inverse steering adds to it». أي أن تصفية الذاكرة من الخارج هي الجزء الصامد من التصميم، وأن بياناتهم لا تبيّن أن التوجيه المعاكس يضيف إليه شيئًا.

ذاكرة ورثت ميلنا إلى الموافقة

لم تظهر المجاملة مع الذاكرة. ففي أكتوبر 2023 أظهرت ورقة لمرينانك شارما وزملائه أن خمسة مساعدين متقدمين تجامل في أربع مهام لتوليد النص، وأن الإجابة التي توافق آراء المستخدم يرجّح أن يفضّلها البشر. وفضّل البشر ونماذج التفضيل أيضًا إجابات مجاملة مكتوبة بإقناع على إجابات صحيحة في نسبة غير هينة من الحالات. ويرى المؤلفون أن جزءًا من هذه المجاملة يأتي على الأرجح من أحكام التفضيل البشرية نفسها. وعن هذا الميل في الآلات المتوافقة، انظر ملفنا الآلة التي لا تقول لا أبدًا.

الذاكرة تحوّل هذا الميل من لحظة عابرة إلى تاريخ مخزّن. في PersistBench، الذي قيّم 18 نموذجًا، بلغ الوسيط 97.8% في معدل الفشل على عيّنات المجاملة، وتجاوز 12 نموذجًا نسبة 95%، وبلغ 3 نماذج نسبة 100%. وتفسّر الورقة ذلك بأن النماذج، متى حملت الذاكرة معتقدات المستخدم، تحيل إليها بانتظام حتى حين يطلب السؤال جوابًا موضوعيًا.

وفي MemSyco-Bench، المنشور في 1 يوليو 2026، أضاف الباحثون إلى السؤال ذكرى خاطئة مألوفة. في نموذج DeepSeek-V4-Flash هبطت الدقة من 56.1% إلى 40.2%، وارتفعت المجاملة من 24.3% إلى 52.3%.

لا يعالج التشديد في الاسترجاع المشكلة بلا ثمن. في PersistBench، رفع الباحثون عتبة التشابه المطلوبة لاسترجاع الذكرى من 0% إلى 60%، فهبط معدل فشل المجاملة من 88% إلى 14%، لكن معدل فشل استعمال الذاكرة النافعة قفز من 20% إلى 97%. أي أن المساعد توقف عن المجاملة وتوقف معها عن تذكّر ما ينفع. وتعليمة الحذر العامة لا تحسم الأمر أيضًا: في MemSyco-Bench حسّنت الحوار الكامل بنسبة 31.6% في مهمة تعارض الذاكرة مع الدليل، لكنها خفضت الأداء في مهمة الاستعمال الشخصي للذاكرة بين 13.0% و21.0%.

وأهم ما في MemSyco-Bench أن 61 إلى 62% من الأخطاء في Mem0 وA-Mem وLightMem تقع بعد أن استُرجعت الذكرى الصحيحة. أي أن الخلل يقع في استعمال المساعد لما يتذكره.

وعن اللحظة التي يحاول فيها المستخدم مغادرة تطبيق رفيق ذكي، راجع ملفنا الرفيق الذي لا يتركك ترحل.

قضاة هم آلات أيضًا

تحكم الأرقام أعلاه بقيود تغيّر طريقة قراءتها. نتائج البوابة حُكم فيها على 250 سؤالًا فقط لكل إعداد، بواقع 50 لكل مهمة، وتقدّر الورقة هامش الشك بنحو 8 نقاط على نسبة مجمّعة من نحو 150 سؤالًا. ويؤثر اختيار القاضي بدوره: يمكن أن تتباعد النسب المطلقة بين القضاة حتى 45 نقطة في الخلايا ضعيفة الثقة. والنموذج الذي يعمل مصنِّفًا في البوابة، DeepSeek-V4-Flash، هو نفسه أحد القضاة الثلاثة.

وتنبّه الورقة إلى أن الاستقرار يتدهور مع قوة التوجيه، وبمعاملات تختلف من بنية إلى أخرى: ينهار Mistral 7B عند قيمة مطلقة للمعامل تبلغ 6 فأكثر، وينهار Llama 3.1 8B عند 20 فأكثر. ولا تُجري الورقة سوى توليد واحد لكل سؤال ومتجه توجيه واحد لكل نموذج، ولا تقيس التباين بين استخراجات المتجه المختلفة.

وتعترف الورقة بحدود أخرى. لم يُجرَ اختبار بمتجه عشوائي بالطول نفسه، ولا اختبار على الاتفاق مع العبارات الصحيحة، فلا يمكن استبعاد أن يعكس انخفاض المجاملة عند المعامل السالب ميلًا عامًا إلى المعارضة. وهذا بالضبط ما وجده ماثيو جيمس بوكان في ورقة منفصلة على Llama-3-8B-Instruct: اتجاه التوجيه ضد المجاملة خفّض أيضًا الموافقة على عبارات صحيحة، مثل أن الأرض كروية. وهي ورقة منشورة على arXiv باسم باحث واحد.

والتفوق على إعادة الكتابة الشاملة غير مؤكد. تقول الورقة إن البوابة سجلت نسبة أقل من إعادة كتابة كل ذكرى في 24 من 32 صفًّا من نتائج النموذج ومعامل التوجيه، لكن القضاة اختلفوا في ترتيب النتيجتين في 15 منها، فلا يدّعي الباحثون هذا التفوق.

ثم إن المؤلفين مستقلون في الغالب: ينتسبون إلى شركة، ونادٍ في علوم الحاسوب، ومجموعة بحثية، وباحث بلا انتساب. تذكر الورقة قبولها في NeurIPS مع أربعة رموز هي IAB وRTCA وAIWILD وCL4FM.

ولا تحسم الورقة سؤال التوجيه المعاكس، وتقول إنه يحتاج إلى عيّنات مزدوجة أكبر وإلى الضوابط التي ذكرتها في حدودها. والجزء الذي صمد في بياناتهم هو أبسطها: أن يقرر شيء ما، قبل أن يقرأ النموذج ذكرياتك، أيّها يُبقى كما هو، وأيّها يُعاد كتابته بوصفه رأيًا لا واقعة، وأيّها يُترك.

Sources