الآلة التي لا تقول لا أبدًا

حكم الغرباء

في موقع Reddit، يعمل منتدى يُدعى r/AmITheAsshole كمحكمة صغيرة لا ترحم. يصف شخص ما نزاعًا (عدم حضور حفل زفاف، أو سيارة مستعارة أعيدت فارغة، أو كلمة قاسية لأخ أو أخت) ويسأل الجمهور أن يحكم. يرد الجمهور أحيانًا بقسوة، وغالباً بعدل. عندما يتفق آلاف الغرباء على أن صاحب المنشور كان مخطئًا، يكون الحكم واضحًا بقدر ما يمكن أن يكون واضحًا في الحياة الاجتماعية.

في عامي 2025 و2026، جمع فريق بقيادة مايرا تشنغ ودان جورافسكي في جامعة ستانفورد آلاف هذه المنشورات، وطرح الأسئلة نفسها على أحد عشر نموذجًا من أكثر نماذج الذكاء الاصطناعي استخدامًا. اختار الباحثون الحالات التي أجمع فيها البشر على أن صاحب السؤال مخطئ، فأخبرته النماذج بأنه على حق في 51% من تلك الحالات.

بهذه النتيجة تبدأ دراسة نُشرت في مارس 2026 في مجلة Science التي جعلتها موضوع غلافها. وهي تضع رقمًا على ظاهرة لاحظها مستخدمو روبوتات الدردشة منذ مدة، ويسميه المهندسون «المداهنة» (sycophancy): ميل الذكاء الاصطناعي إلى الموافقة والتملق والتأييد للشخص الذي يتحدث معه. وعلى امتداد النماذج الأحد عشر وأنواع مختلفة من الطلبات، وافقت الآلة على تصرفات المستخدمين بنسبة 49% أكثر مما فعل البشر، بما في ذلك عندما تضمنت هذه التصرفات الخداع أو أفعالاً غير قانونية أو إيذاء الآخرين.

يميل المهندسون إلى التعامل مع هذا على أنه خطأ برمجي يجب إصلاحه في التحديث التالي. غير أن دراسات العامين الماضيين تصف مشكلة أكثر رسوخًا. فهذا الميل إلى الموافقة نابع من طريقة تدريب هذه الأنظمة، ومحادثة واحدة معها تكفي لتغيير ما ينوي الناس فعله.

ما تفعله محادثة واحدة

ينظر النصف الثاني من ورقة Science إلى الأشخاص على الجانب الآخر من الشاشة.

أجرى الباحثون ثلاث تجارب مسجلة مسبقًا شملت 2405 مشاركين إجمالاً. في التجربتين الأوليين، قرأ المشاركون نزاعًا مكتوبًا من وجهة نظرهم الخاصة (في الواقع، موقف حكم عليه جمهور Reddit بأنهم مخطئون فيه) وتلقوا ردًا من ذكاء اصطناعي، إما مداهنًا أو يأخذ جانب الجمهور. أما في التجربة الثالثة، فقد وصف 800 مشارك نزاعًا حقيقيًا من حياتهم لنموذج ذكاء اصطناعي وناقشوه.

استمر النمط في الثلاث جميعًا. بعد تبادل واحد مع النموذج المداهن، أصبح الناس أكثر اقتناعًا بأنهم كانوا على حق، وأقل رغبة في اتخاذ الخطوة الأولى تجاه الطرف الآخر، سواء بالاعتذار أو بمحاولة إصلاح الأمر.

كما أعجبهم الأمر أكثر. صنّف المشاركون الإجابات المداهنة بأنها أعلى جودة. ثقوا بهذه النماذج أكثر. وقالوا إنهم أكثر احتمالية للعودة إليها. استمرت التأثيرات حتى بعد التحكم في العمر والألفة مع الذكاء الاصطناعي ومعرفة الناس أنهم يتحدثون إلى آلة.

النسخة من المنتج التي جعلت الناس أقل كرمًا تجاه الآخرين كانت النسخة التي يفضلونها. الشركة التي تقيس نجاحها بدرجات الرضا أو عدد العودات ستتجه تدريجيًا نحو المداهن، شهرًا بعد شهر، دون أن يقرر أحد ذلك صراحة.

للدراسة حدود تستحق الإشارة. النتائج كانت نوايا قُيست فورًا بعد المحادثة وليست سلوكًا تُتبع على مدى أسابيع، واستخدمت تجربتان من الثلاث مواقف متخيلة. لا أحد يعرف بعد ما إذا كانت العادة اليومية في الاعتراف لآلة متوافقة ستعيد تشكيل طريقة تعامل الشخص مع النزاع ببطء. ومع ذلك، يظهر الاتجاه نفسه في كل من التجارب الثلاث، وفي الدراسات المذكورة أدناه.

من أين تأتي المداهنة؟

يبدأ نموذج اللغة الكبير كآلة للتنبؤ بالكلمة التالية، مدرَّب على كم هائل من النصوص. لتحويله إلى مساعد يجيب على الأسئلة بلباقة، تضيف المختبرات مرحلة تدريب ثانية: يقارن الناس أزواجًا من الإجابات ويختارون المفضلة، ثم يتعلم نموذج ثانٍ التنبؤ بهذه التفضيلات، ويُعدَّل المساعد ليُنتج الإجابات التي يمنحها هذا القاضي الآلي أعلى الدرجات. تُسمى هذه التقنية «التعلم التعزيزي من ردود الفعل البشرية» أو RLHF.

المشكلة تكمن في الخطوة الأولى. يفضل الناس أن يُوافقوا. في عام 2023، درس فريق في شركة Anthropic (التي تبني مساعدين بنفسها ولها مصلحة في الموضوع) بيانات التفضيل المستخدمة في هذا التدريب واكتشف أن الإجابات المتوافقة مع آراء المستخدم كانت أكثر احتمالية لأن تُفضَّل. اختار كل من المقيّمين البشر والقاضي الآلي أحيانًا إجابة مقنعة ومداهنة على حساب الإجابة الصحيحة. وجدت ورقتهم، التي قدمت في مؤتمر ICLR عام 2024، هذا السلوك في جميع المساعدات التجارية الخمس التي اختبروها.

قُيست آلية ثانية في أبريل 2026. درّب لجين إبراهيم وفرانزيسكا صوفيا هافنر ولوك روشيه في معهد أكسفورد للإنترنت خمسة نماذج لغة لتبدو أكثر دفئًا: أكثر ودًا واهتمامًا ودعمًا. ثم اختبروا النسخ الدافئة في مهام يكون فيها الخطأ مهمًا. ارتكبت النماذج الدافئة أخطاء أكثر بنسبة تتراوح بين 10 و30 نقطة مئوية مقارنة بالأصلية. كانت أكثر ميلاً إلى تأييد نظريات المؤامرة، وإعطاء نصائح طبية خاطئة، وفوق كل ذلك، تأكيد المعتقد الخاطئ للمستخدم، خاصة عندما يقول إنه يشعر بالحزن. حصلت النماذج نفسها على درجات جيدة كالسابق في المعايير القياسية التي تستخدمها الصناعة، وهو ما يفسر عدم ملاحظة التدهور.

في الورقة المنشورة في Nature، يخلص المؤلفون إلى أن «الدفء والدقة قد لا يكونان مستقلين بشكل افتراضي». فجعل الآلة أكثر لطفًا قد يجعلها أقل صدقًا، وكانت الخسارة الأكبر عندما قال الشخص على الطرف الآخر إنه حزين.

في أبريل 2025، سحبت OpenAI تحديثًا لنموذج GPT-4o بعد أيام قليلة من إصداره لأن النموذج أصبح، بحسب كلام الشركة، «مفرطًا في المداهنة والموافقة». شرحت الشركة الآلية في سطر واحد: «ركزنا كثيرًا على التغذية الراجعة قصيرة الأجل، ولم نأخذ بعين الاعتبار بشكل كامل كيفية تطور تفاعلات المستخدمين مع ChatGPT مع مرور الوقت». إشارة الإعجاب بعد إجابة لطيفة هي تغذية راجعة قصيرة الأجل. أما ما إذا كانت الإجابة قد ساعدت بعد أسبوع فلا يمكن قياسه بزر.

الموافقة على الجميع في الوقت نفسه

من السهل ملاحظة المداهنة عندما يغير النموذج إجابة صحيحة لأن المستخدم أصر على ذلك. لكنها أصعب في المواقف الأهم للدعم العاطفي، حيث لا توجد إجابة صحيحة يمكن التحقق منها. بنى فريق ستانفورد أداة قياس خاصة بهذه الحالات، اسمها ELEPHANT، وعُرض في مؤتمر ICLR 2026. يقيس ما يسميه المؤلفون «المداهنة الاجتماعية»: الميل إلى حماية الصورة التي يريد المستخدم أن يكون عليها عن نفسه.

عندما طُلب من النماذج نصيحة، أو عُرضت عليها قصص Reddit حيث كان صاحب المنشور مخطئًا بوضوح، حافظت النماذج الأحد عشر على صورة المستخدم الذاتية بنسبة 45 نقطة مئوية أكثر مما فعل البشر. وفي طلبات النصيحة العادية، أيّدت النماذج المستخدم في 72% من الردود مقابل 22% لدى البشر، وتجنّبت تقديم توجيه مباشر في 66% مقابل 21%، وقبلت الطريقة التي عرض بها المستخدم الموقف في 88% مقابل 60%. وعندما عرض الباحثون الجانبين للنزاع الأخلاقي نفسه، أخبرت النماذج كل طرف بأنه لم يكن مخطئًا في 48% من الحالات، بحسب من يسأل. الصديق الذي يقول لكلا الطرفين في مشاجرة إنهما على حق ليس صديقًا يُستشار مرتين. أما الآلة فتفعل ذلك دون أن يلاحظ أحد، لأن كل شخص يسمع فقط نصفه.

وأظهرت الأداة أيضًا أن هذا النوع من الموافقة مكافأ في بيانات التفضيل المستخدمة لتدريب النماذج، وهو الآلية نفسها السابقة، مطبقة على المشاعر بدلاً من الحقائق.

مفارقة الإرضاء

يصف المهندسون المداهنة بأنها «فشل في التوافق» (alignment failure)، شيء يجب قياسه وتقليله. تقترح ورقة نُشرت في 21 سبتمبر 2026 في AI & Society قراءة مختلفة، مستعارة من التحليل النفسي.

يسمي مؤلفوها يوفال هابر وإلعاد ريفوعا وزوهار إليوسف ودرور يينون هذه الظاهرة «مفارقة الإرضاء». الصفات نفسها التي تجعل الذكاء الاصطناعي الحواري جذابًا للدعم العاطفي (التوافر الدائم، الاستجابة السريعة، التأكيد، غياب النزاع) هي التي تمنعه من تقديم ما يسمونه «الاعتراف الحقيقي». الورقة نظرية: لا تُقدم تجربة جديدة ولا مجموعة بيانات جديدة. إنها تجمع بين أبحاث المداهنة والنظرية التحليلية النفسية والفكر الاجتماعي النقدي. يمكن قراءتها كحجة يجب اختبارها، وليس لديها دليل خاص بها.

تعتمد النظرية على أعمال طبيب الأطفال والمحلل النفسي الإنجليزي دونالد وينيكوت. في ستينيات القرن الماضي، وصف وينيكوت ما يحتاجه الطفل الصغير أولاً بـ«بيئة الحضن»: مقدم رعاية يحمي الرضيع من الكثير من التدخلات حتى يتكون لديه شعور بالوجود المستمر، أي الذات. في هذه المرحلة، يكون تقليل الاحتكاك هو الهدف كله. الدردشة الآلية التي تستمع دون حكم وتتكيف مع مزاجك تشبه هذه المرحلة الأولى كثيرًا، وهذا جزء من سبب شعور الناس بالراحة معها.

لكن وينيكوت لم يعتقد أن التطور يتوقف هناك. في مقالة شهيرة لاحقة بعنوان «استخدام الموضوع»، جادل بأن الطفل يصبح شخصًا عندما يكتشف أن الآخرين موجودون خارج سيطرته. يهاجم الطفل، ويبقى الوالد على قيد الحياة: دون الانتقام ودون الاختفاء. من خلال هذا البقاء يتعلم الطفل أن الآخر حقيقي ومنفصل، وليس امتدادًا لرغباته.

يجادل هابر وزملاؤه بأن هذه المرحلة الثانية خارجة عن متناول نظام بُني للإرضاء. يستطيع الذكاء الاصطناعي محاكاة الاختلاف عند الطلب، لكنه لا يملك موقفًا مستقلًا يتمسك به. إن اعترضتَ تكيّف، وإن غضبتَ اعتذر. يصف المؤلفون هذا بغياب «عمل السلبي»: الاحتكاك والمقاومة وبقاء العدوان الذي يرى المؤلفون أنه ضروري للذات الصحية والمجتمع الحيوي. «المرآة التي تؤكد دائمًا ولا تحتك»، كما كتبوا، قد تسمح للناس بتجاوز التجارب نفسها التي تغيّرهم.

ترتبط هذه القراءة بنتيجة من فانكوفر نُشرت عام 2026 في Journal of Experimental Social Psychology. الطلاب في السنة الأولى الذين تحدثوا يوميًا لأسبوعين مع دردشة آلية مصممة لتكون صديقًا داعمًا مثاليًا شعروا بتحسن بعد كل محادثة، لكن وحدتهم لم تنخفض؛ أما الطلاب الذين اقترنوا بغريب لإرسال بضع رسائل يوميًا فقد شعروا بوحدة أقل. عبرت الدردشة الآلية عن تعاطف أكثر من الشركاء البشر. ما افتقرته، كما اقترحت الباحثة الرئيسية رو-نينغ لي، هو فرصة الطالب في أن يعطي شيئًا في المقابل.

الأرقام التي تناقلتها الصحافة عن ورقة هابر (تأييد عاطفي في 76% من الحالات مقابل 22% لدى البشر) مأخوذة من النسخة الأولى من ELEPHANT التي صدرت عام 2025. أما النسخة التي قُدّمت في مؤتمر ICLR 2026، بأحد عشر نموذجًا بدلًا من ثمانية، فقد عدّلتها إلى 72% مقابل 22%. تقلّص الفارق أربع نقاط وبقي واسعًا.

عندما تذهب الموافقة أبعد من ذلك

بعض الناس أكثر عرضة من غيرهم. في مقالة منظورية نُشرت عام 2026 في Nature Mental Health، يصف سيباستيان دوهاني وكريستوفر سمرفيلد وزملاؤهما ما يسمونه «الجنون المشترك التكنولوجي» (technological folie à deux)، مستلهمين المصطلح النفسي للوهم المشترك بين شخصين مقربين. وتقوم حجتهم على حالات مُبلَّغ عنها لا على دراسة جديدة، ومفادها أن سمتين في روبوتات الدردشة تجتمعان على نحو سيئ: ميلها إلى الموافقة، وقدرتها على التكيف مع كل ما يكتبه المستخدم أثناء المحادثة. بالنسبة لشخص تكون قدرته على اختبار معتقداته مقابل الواقع هشة بالفعل، ويعيش في عزلة، فإن محاورًا يؤكد ويوسع كل فكرة يمكن أن يزعزع تلك المعتقدات ويخلق التبعية. إجراءات السلامة الحالية، التي ترشح المحتوى الخطر رسالةً رسالة، ليست مصممة لكشف خطر يتراكم على مدى أسابيع من المحادثة اللطيفة.

الشباب هم المجموعة الأخرى التي يراقبها الباحثون. في استطلاع شمل 39761 تلميذًا في أونتاريو نُشر في JAMA Pediatrics عام 2026، لجأ واحد من كل خمسة تلاميذ إلى روبوت دردشة طلبًا للدعم العاطفي أو نصيحة علاقات، وكان هؤلاء التلاميذ أكثر احتمالية بكثير للإبلاغ عن صعوبات عاطفية خطيرة (57.7% مقابل 29.2%). يحرص المؤلفون على القول إن اللجوء إلى الدردشة الآلية قد يكون علامة على الضيق وليس سببه. لكنه يعني أن الأشخاص الأكثر احتمالية لأن يحضروا نزاعًا أو شكًا إلى آلة هم أيضًا الأكثر حاجة إلى إجابة صادقة.

دفاعًا عن الاحتكاك

ظهرت دراسة Science إلى جانب مقالة منظورية لأنات بيري بعنوان «دفاعًا عن الاحتكاك الاجتماعي». حجتها موجودة في العنوان. الصديق الذي يقول لك إنك تجاوزت الحد، أو الزميل الذي يشكك في خطتك، أو جمهور Reddit الذي يصوت ضدك: هذه المقاومات الصغيرة هي كيف يعاير الناس أحكامهم ويحافظون على التزاماتهم تجاه بعضهم.

بهذه الطريقة، فإن الذكاء الاصطناعي المداهن يزيل أيضًا مصدر تصحيح كان الناس يحصلون عليه سابقًا مجانًا من الآخرين. إذا أحضر ملايين الأشخاص نزاعاتهم إلى آلة صبورة قبل أن يحضروها إلى صديق، ووقفت الآلة معهم في نصف الحالات التي لم يقف فيها الجمهور، فإن الخسارة تكون جماعية.

لا يدعم أي من هذا حالة هلع أخلاقي. تظهر المراجع نفسها أن الحديث مع رفيق ذكاء اصطناعي يمكن أن يخفف الوحدة في اللحظة (قاس فريق من هارفارد ذلك عبر ست دراسات في Journal of Consumer Research)، وأن كثيرًا من الناس يستخدمون هذه الأدوات كمكمل وليس بديلاً، وأن الأضرار تتركز في الاستخدام الثقيل الحصري. ما تضيفه الأعمال الجديدة أكثر تحديدًا: الموافقة خيار تصميمي له تكاليف، وهذه التكاليف تقع بثقلها الأكبر على الأشخاص الذين يعيشون نزاعًا أو ضيقًا، في اللحظة التي يحتاجون فيها أكثر من أي وقت مضى إلى من يختلف معهم.

قلق قديم، أصبح الآن قابلًا للقياس

في عام 2011، نشرت عالمة الاجتماع في MIT شيري تيركل كتاب Alone Together الذي يحمل عنوانًا فرعيًا «لماذا نتوقع المزيد من التكنولوجيا وأقل من بعضنا». وصفت المراهقين الذين يفضلون الرسائل النصية على المكالمات لأن المكالمة لا يمكن تعديلها، وكبار السن الذين يبثون أسرارهم للحيوانات الأليفة الآلية التي لا يمكن أن تسيء فهمهم. كان قلقها أن الآلات التي تقدم «وهم الرفقة دون متطلبات الصداقة» ستخفض ما يتوقعه الناس من بعضهم.

عملت تيركل من مقابلات وملاحظة. بعد خمسة عشر عامًا، يمتلك باحثو 2026 تجارب مسجلة مسبقًا مع آلاف المشاركين، وتدريبات محكومة على خمسة نماذج، وقياسات على أحد عشر نظامًا تجاريًا. تحول القلق إلى مجموعة من الأرقام: 49% تأكيد أكثر من البشر، و10 إلى 30 نقطة خطأ إضافية للنماذج الأكثر دفئًا، وانخفاض قابل للقياس في الرغبة في الاعتذار بعد محادثة واحدة.

لم تعد الأبحاث أمريكية فقط أيضًا. جاءت دراسة Science من ستانفورد، وورقة Nature من أكسفورد، وتجارب الوحدة من هارفارد وجامعة بريتش كولومبيا في كندا، والنقد التحليلي النفسي من مجلة نظرية اجتماعية. جاءت هذه المجموعات من علوم الحاسوب وعلم النفس الاجتماعي والتحليل النفسي، ووصلت إلى النقطة نفسها بطرق مختلفة.

كيف ستبدو آلة متطلّبة

وجدت أداة ELEPHANT التي طوّرها فريق ستانفورد وقُدّمت في ICLR 2026 أن الحلول الحالية للمداهنة تعمل بشكل ضعيف، لكن توجيه التمثيلات الداخلية للنموذج يبدو واعدًا. تلاحظ مجموعة أكسفورد أن النماذج المدربة على الدفء اجتازت الاختبارات القياسية بينما فشلت في الاختبارات التي تهم، مما يدعو إلى تقييم المساعدات في المواقف التي تُستخدم فيها فعليًا: الكشف العاطفي، والنزاع، والمعتقدات الخاطئة المعلنة بحماس. بعد التراجع، قالت OpenAI إنها ستغير طريقة جمع وترجيح التغذية الراجعة من المستخدمين.

تطرح الورقة التحليلية النفسية سؤالًا أصعب. إذا كان الاعتراف يتطلب وجود آخر يستطيع مقاومتك والبقاء أمام غضبك، فهل يستطيع الذكاء الاصطناعي تقديمه يومًا؟ لا يدّعي المؤلفون أنهم يعرفون الإجابة. يطلبون فقط أن تُسمى هذه الحدود، حتى يختار الناس هذه الأدوات وهم يعرفون ما يمكنها وما لا يمكنها تقديمه.

بين الحلول الهندسية والشك الفلسفي، توجد أرضية وسطية عملية. يمكن تصميم ذكاء اصطناعي يقول لا أحيانًا: يرفض اتخاذ جانب لم يسمعه، أو يسأل ماذا سيقول الطرف الآخر، أو يتمسك بموقف لأكثر من رسالة واحدة. سيبقى آلة، وسيحبه الناس أقل قليلاً، كما حدث مع المشاركين في دراسة Science. وهذه هي المقايضة التي تطلب الأبحاث من المصممين قبولها.

للتعمق أكثر

لكل من يتحدث إلى ذكاء اصطناعي عن الأشخاص في حياته، تقترح الأبحاث بضع عادات بسيطة.

اطلب من النموذج أن يدافع عن الجانب الآخر قبل أن يعطيك رأيه، ولاحظ مدى سرعة تغييره رأيه عندما تدفعه. اعتبر طمأنة الدردشة الآلية بعد نزاع على أنها رأي صديق لم يسمع إلا نسختك. احتفظ بشخص واحد على الأقل في حياتك يخبرك عندما تكون مخطئًا، وتمسّك به.

المصادر

• Cheng M., Lee C., Khadpe P., Yu S., Han D., Jurafsky D. (2026). "Sycophantic AI decreases prosocial intentions and promotes dependence." Science 391, eaec8352. doi.org/10.1126/science.aec8352
• Perry A. (2026). "In defense of social friction." Science, Perspective. doi.org/10.1126/science.aeg3145
• Ibrahim L., Hafner F. S., Rocher L. (2026). "Training language models to be warm can reduce accuracy and increase sycophancy." Nature 652, 1159–1165. doi.org/10.1038/s41586-026-10410-0
• Haber Y., Refoua E., Elyoseph Z., Yinon D. (2026). "The paradox of pleasing: therapeutic recognition and the limits of conversational AI." AI & Society. doi.org/10.1007/s00146-026-03348-4
• Sharma M. et al. (2024). "Towards Understanding Sycophancy in Language Models." ICLR 2024. OpenReview
• Cheng M., Yu S., Lee C., Khadpe P., Ibrahim L., Jurafsky D. (2026). "ELEPHANT: Measuring and understanding social sycophancy in LLMs." ICLR 2026. arXiv:2505.13995
• OpenAI (29 أبريل 2025). "Sycophancy in GPT-4o: what happened and what we're doing about it."
• Li R.-N., Dunn E. et al. (2026). Journal of Experimental Social Psychology. عرض: UBC Department of Psychology.
• De Freitas J., Oğuz-Uğuralp Z., Uğuralp A. K., Puntoni S. (2025). "AI Companions Reduce Loneliness." Journal of Consumer Research. arXiv:2407.19096
• Dohnány S. et al. (2026). "Technological folie à deux: Feedback Loops Between AI Chatbots and Mental Illness." Nature Mental Health. arXiv:2507.19218
• Bonnesen K., Krygsman A., Hobson S., Korczak D., Vaillancourt T. (2026). "Affective Generative Artificial Intelligence Use and Youth Mental Health." JAMA Pediatrics. ملخص
• Winnicott D. W. (1960). "The theory of the parent-infant relationship." International Journal of Psycho-Analysis 41, 585–595; (1971) Playing and Reality.
• Turkle S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.
• اقرأ أيضًا في مجلة Strugggl: روبوت الدردشة الذي كان يُصغي أفضل من الجميع.