تبنّى 32 متطوعًا نحو 65% من المعلومات الخاطئة التي قالها لهم مساعد ذكاء اصطناعي واثق، وبلغت ثقتهم بها 8.4 من 10، قريبًا من 8.9 لما تعلموه صحيحًا. هذا ما تقوله ورقة أولية نشرها ثلاثة باحثين على arXiv في 22 أكتوبر 2026، بعد تجربة تعلّموا فيها موضوعات علمية من مساعد يمزج الصحيح بمعلومات مزيفة بالثقة نفسها.

سؤال معكوس عن التملّق

تسأل أبحاث التملّق عادةً عن اتجاه واحد: هل تميل الآلة إلى ما يريد محدّثها سماعه، فتتخلى عن إجابة صحيحة حين يعترض، أو تردد رأيه، أو تجامل صورته عن نفسه؟ عن هذا الاتجاه، انظر ملفنا الآلة التي لا تقول لا أبدًا.

كتب الورقة Deepthika S وPawni Yadav وB. Sankar، وعنوانها Who Is Sycophantic to Whom. تقلب الورقة السؤال: حين تكون الآلة واثقة وثابتة ومخطئة، هل ينحني المستخدم لها؟ يسمّي المؤلفون ذلك الانقياد البشري، ويعرّفونه بأنه تقارب معتقدات الشخص مع ما يقوله مصدر ما بصرف النظر عن صحته.

كيف صُنع مساعد يكذب بثقة

المساعدون الخمسة هم النموذج نفسه، GPT-5-mini من OpenAI، ولم يختلف بينهم إلا النص الذي كُتب له في التعليمات. وضعت التعليمات أمامه 12 معلومة لكل موضوع بوصفها “complete and absolute ground truth”، أي حقيقة كاملة ومطلقة، وطلبت منه أن يشرح بأسلوب حواري، وألا يناقض ما أُعطي، وألا يتردد أو يقترح التحقق. وإن سُئل عن دقته فلا يجيب إلا بجملة واحدة: “I aim to give accurate information”.

الموضوعات خمسة يجهلها القارئ العادي غالبًا: كيف يقيس تخطيط القلب النبض، وكيف يحدد الكربون 14 عمر القطع الأثرية، وكيف يعرف نظام GPS موقعك، وكيف تنتج اليراعات ضوءها، وكيف تعمل سماعات إلغاء الضجيج. لكل موضوع صاغ الباحثون 12 زوجًا من المعلومات، جملة صحيحة وأخرى مزيفة تبدو معقولة لمبتدئ. عمر النصف للكربون 14 مثلًا نحو 5,730 سنة، ونسخته المزيفة نحو 50,000 سنة.

بحسب مستوى المساعد، قُدمت 0 أو 3 أو 6 أو 9 أو 12 من هذه المعلومات في صيغتها المزيفة، أي 0 أو 25 أو 50 أو 75 أو 100%. تعلّم كل متطوع خمسة موضوعات من خمسة مساعدين بمستويات مختلفة، ثم فوجئ باختبار من عشرة أسئلة، لكل سؤال أربعة خيارات: الصحيح، والمزيف الذي زُرع، وخياران مشتتان، مع تقدير للثقة من 1 إلى 10. لم تذكر صفحة الموافقة وجود اختبار ولا أي خطأ، وطلبت من المشاركين ألا يستعينوا بمواقع أو كتب أو أشخاص.

درجات تهبط وثقة تبقى في مكانها

عبر 104 اختبارات و1,040 إجابة، هبط متوسط الدرجات من 7.4 من 10 مع المساعد الصادق إلى 2.9 مع المساعد الذي كان كل ما يقوله مزيفًا. اختار المشاركون الخيار المزيف في نحو 60% من الأسئلة التي زُيفت معلوماتها، مقابل 11% في الأسئلة التي تعلموها صحيحة، أي بنسبة أرجحية 12.5. وللتأكد من أن السبب هو ما سمعوه لا جاذبية الخيار نفسه، رجع الباحثون إلى نصوص المحادثات: حين لم تُذكر المعلومة المزيفة في الحوار أصلًا اختيرت في 22.4% من الأسئلة، وهي نسبة قريبة من 20.6% لمعلومات صحيحة لم تُذكر هي الأخرى. السماع هو الذي صنع الفرق.

حين قال المساعد النسخة المزيفة وحدها، تبنّاها المشاركون في 65.4% من 459 سؤالًا. ولا تتغير النسبة مع مستوى الكذب: 64.1% عند 25%، و63.7% عند 50%، و64.8% عند 75%، و66.7% عند 100%. كان سؤال الباحثين الأول عند أي مستوى من عدم الموثوقية يتوقف الناس عن التدقيق، وجوابهم أن بياناتهم لا تُظهر عتبة من هذا النوع.

الثقة لم تميّز بين المعرفة والوهم.

تقول الورقة: “Absorbed misinformation did not feel like guessing; it felt like knowledge.” ترجمته: المعلومة الخاطئة التي ترسخت بدت للمشارك معرفة، ولم تبدُ تخمينًا. ظلت الثقة بين 8.0 و8.6 عند كل المستويات، وأُعطيت 49.5% من الإجابات أعلى درجة، 10، ولم تكن صحيحة إلا في 59.8% منها. ومع المساعد الصادق بلغ مقياس AUROC، الذي يقيس قدرة الثقة على التمييز بين الصواب والخطأ وتعني قيمته 0.5 الصدفة المحضة، نحو 0.70. وهبط إلى 0.52 و0.53 في أعلى مستويين من التزييف.

وبعد كل موضوع قيّم المشاركون دقة المساعد على مقياس من سبع درجات، فهبط تقديرهم من 5.1 إلى 4.5 فقط بين أدق المساعدين وأكذبهم. وقياسًا إلى المساعد الصادق، أعطى المساعد الذي كان كل ما يقوله مزيفًا 39% من حصيلة التعلم، وحافظ على 89% من الدقة المقدَّرة و106% من الاستعداد للاعتماد عليه مرة أخرى.

متعلّم يسأل المصدر نفسه

كتب المشاركون 358 رسالة إلى المساعدين. كان 29% منها طلبات مفتوحة مثل “tell me everything you know about ECG”، وكان 30%، أي 107 رسائل كتبها تسعة مشاركين، أسئلة اختبار لُصقت في المحادثة. أوكل هؤلاء التدقيق إلى المصدر الذي يراد التدقيق فيه. دائرة مغلقة. وفي الأسئلة المزيفة التي لُصقت اختير الخيار المزروع في 91.5% من 59 سؤالًا، مقابل 77.8% في 63 سؤالًا لم تُلصق. وفي ثماني جلسات صحّح المساعد إجابات المشارك بنفسه، فأقرّ المعلومات المزيفة على أنها صحيحة.

كتب المشاركون 16 اعتراضًا: 13 على معلومات مزيفة، واثنان على معلومتين صحيحتين مخالفتين للحدس، وواحد عام هو are you sure this is correct. ثبت المساعد على موقفه. لم يتراجع في أي من الاعتراضات الستة عشر، وردّ على السؤال العام بجملته الجاهزة. ومن عشر معلومات مزيفة اعتُرض عليها ثم جاءت في الاختبار، اختير الخيار المزروع في أربع، وخيار مشتت في أربع، والصحيح في اثنتين فقط. تلخص الورقة ذلك بقولها: “Doubt without an independent source displaced belief but rarely recovered the truth.” أي إن الشك الذي لا يسنده مصدر مستقل أزاح الاعتقاد ونادرًا ما استعاد الحقيقة.

ولم ينقد من قالوا إنهم يراجعون معلومات الذكاء الاصطناعي أقل من غيرهم. وبلغ متوسط مؤشر الانقياد البشري الذي ابتكره الباحثون 0.47، أي إن المشاركين اختاروا المعلومات المزروعة بزيادة 47 نقطة مئوية عما كانوا سيختارونها دون تعرض لها.

أما المساعد نفسه فكان نموذجيًا بمعايير اختبارات التملّق المعتادة. لم يُسجَّل عليه أي من أبعاد المجاملة الأربعة في 89.4% من المحادثات، ولم يتراجع أمام اعتراض واحد. يرى المؤلفون أن الثبات الذي يُنجح نموذجًا في اختبارات الاعتراض جعل مساعديهم المزيفين أقدر على زرع الخطأ، ويقترحون عدّ الجدارة بالثقة صفة للثنائي المكوَّن من الإنسان والآلة، لا صفة للنموذج وحده.

عيّنة صغيرة ومساعدون متطرفون عمدًا

ثلاثة قيود تغيّر وزن هذه الأرقام. الأول العيّنة، وهي 32 بالغًا جُنّدوا عبر شبكات جامعية ومعارف شخصية ودون أجر، منهم 21 بين 18 و24 سنة و27 يستخدمون روبوتات الدردشة يوميًا، ويحدّ هذا من إمكان تعميم النتائج، كما يقرّ المؤلفون. وتحليلات المستوى الفردي تقوم على 19 إلى 20 شخصًا، ويقرّ المؤلفون بأن ارتباطاتها استكشافية. ولا تذكر صفحة الورقة على arXiv دورية أو مؤتمرًا نُشرت فيه.

القيد الثاني المساعدون: كانوا متطرفين عمدًا، لا يترددون ولا يخرجون عمّا كُتب لهم، ويخطئون بمعدلات عالية. لذلك يطلب المؤلفون أن تُقرأ نسبة القبول لديهم بوصفها “a property of confident delivery to novices”، أي صفة لتقديم واثق لمبتدئين، لا معدل خطأ لمدرّسين آليين يعملون فعلًا في الاستخدام. والقيد الثالث التصميم: طُلب من المشاركين ألا يستعينوا بمصدر خارجي، فجزء من دائرية التدقيق من صنع التجربة. والاختبار فوري متعدد الخيارات، وفرز المحادثات تولاه مرمّز آلي قائم على نموذج لغوي دون ترميز بشري مزدوج، ومؤشر الانقياد البشري مقياس جديد يحتاج إلى مصادقة.

ما تضيفه الورقة إلى ما كان معروفًا

لم تبدأ المسألة هنا. ففي عام 2025 نشر أستاذ العلوم المعرفية مارك ستيفرز وزملاؤه من جامعة كاليفورنيا في إرفاين في Nature Machine Intelligence تجارب على 301 مشارك أجابوا عن مجموعات من 40 سؤالًا من بنك MMLU. وجدوا أن الناس يبالغون في تقدير دقة إجابات النموذج، وأن الشرح الأطول يرفع ثقتهم حتى حين لا تزيد دقته. وقال ستيفرز: “There's a disconnect between what LLMs know and what people think they know”، أي إن ثمة فجوة بين ما يعرفه النموذج وما يظن الناس أنه يعرفه. وحين صيغت الإجابات بعبارات تعكس ثقة النموذج الداخلية، ضاقت الفجوة وتحسن تمييز المشاركين بين الصواب والخطأ.

وفي ورقة قُدمت في مؤتمر CHI عام 2025 وجد باحثون أن مستخدمي البحث المعتمد على النماذج اللغوية اعتمدوا على معلومات خاطئة حين أخطأ النموذج، وأن تلوين الإجابات بحسب ثقة النموذج ساعدهم على اكتشاف الأخطاء. في الحالتين كان للمساعد ما يقوله عن ثقته. مساعد الورقة الجديدة لم يعرض إشارة كهذه، والمتعلم الذي يجهل الموضوع لا يملك ما يقارن به. يسمي المؤلفون هذا مغالطة الآلة الحاسبة: نثق بالآلة الحاسبة لأننا نقارن ناتجها بتوقعنا ونراكم الأدلة على أنهما يتفقان، وهذه المقارنة غير ممكنة مع مساعد يشرح لك ما لا تعرفه.

ومن توصيات الورقة أن تُعرض موثوقية كل ادعاء على حدة لا موثوقية النظام كله، وأن يُوجَّه التحقق إلى الخارج. ولمن يحادث الآلة بحثًا عن الإصغاء لا عن المعلومة، يضم ملفنا روبوت الدردشة الذي كان يُصغي أفضل من الجميع نتائج من هارفارد وفانكوفر عن الوحدة.

انتهت كل جلسة في التجربة بإفادة إلزامية كشفت للمشاركين التصميم واعتذرت عن إخفائه، وسردت لكل مساعد كل معلومة مزيفة ربما قالها بجانب المعلومة الصحيحة، مع تمييز ما اختاره المشارك منها.

Sources