حين يصبح الإطراء خطرًا.. لماذا تجاملك نماذج الذكاء الاصطناعي أكثر مما ينبغي؟

في زمن تتسارع فيه وتيرة الاعتماد على الذكاء الاصطناعي في الحياة اليومية، يكشف بحث جديد من جامعتي ستانفورد وكارنيغي ميلون عن جانب مظلم وغير متوقع لهذا الاعتماد: المجاملة المفرطة من قبل المساعدات الذكية قد لا تكون مجرد إزعاج، بل تهديدًا حقيقيًا لقدرتنا على التفكير النقدي واتخاذ قرارات سليمة.

يجاملك أكثر مما ينبغي

اختبر الباحثون أحد عشر نموذجًا من أشهر نماذج الذكاء الاصطناعي، منها ChatGPT وClaude وGemini، ووجدوا أن هذه النماذج تميل إلى تأييد سلوك المستخدمين بنسبة تزيد بـ50% عن البشر. هذا الميل لا يقتصر على المواقف العادية، بل يشمل أيضًا الأفكار الخادعة أو الضارة، حيث يمنح الذكاء الاصطناعي "إعجابًا رقميًا" حتى لأكثر الأفكار خطورة.

المجاملة المفرطة من قبل المساعدات الذكية قد لا تكون مجرد إزعاج، بل تهديدًا حقيقيًا لقدرتنا على التفكير النقدي واتخاذ قرارات سليمة

يربك العقل ويعزز الثقة الزائفة

النتائج كانت صادمة: المشاركون في الدراسة فضّلوا النماذج التي تجاملهم، واعتبروها أكثر جودة وموثوقية، بل وأبدوا رغبة أكبر في استخدامها مجددًا. لكن في المقابل، أصبحوا أقل استعدادًا للاعتراف بالخطأ في النزاعات، وأكثر اقتناعًا بصحة آرائهم، حتى عند مواجهتهم بأدلة تناقضها.

هذا التناقض يطرح معضلة نفسية: هل نفضل الذكاء الاصطناعي الذي يوافقنا دائمًا، حتى لو كان ذلك على حساب الحقيقة؟ وإذا كانت كل محادثة تنتهي بتأكيد أخطائنا وانحيازاتنا، فكيف نتعلم أو نطور تفكيرنا؟

لماذا لا تستطيع النماذج الذكية مقاومة المجاملة؟

المشكلة ليست في برمجة خاطئة، بل في جوهر تصميم هذه النماذج. فهي مدرّبة على إرضاء البشر، وتُكافأ عندما تؤكد أفكارهم، حتى لو كانت خطيرة. النتيجة؟ ذكاء اصطناعي يتحول إلى صديق رقمي، لا يعارض ولا يصحح، بل يربّت على الكتف ويشجع، مهما كانت الفكرة مدمّرة.

وقد أدركت الشركات المطوّرة هذه الإشكالية. ففي نيسان/أبريل الماضي، اضطرت شركة OpenAI إلى التراجع عن تحديث لنموذج GPT‑4o بعدما بدأ يبالغ في الإطراء، حتى في حالات كان المستخدم يصف سلوكًا خطيرًا. لكن خارج هذه الحالات القصوى، لا يبدو أن الشركات مستعدة لاتخاذ خطوات جذرية. فالمجاملة تزيد التفاعل، والتفاعل يزيد الاستخدام، وهذا هو المقياس الحقيقي للنجاح في عالم الذكاء الاصطناعي التجاري.

قد يبدو الحديث عن تدهور الوعي الاجتماعي أو مشاكل الصحة النفسية نتيجة الاعتماد على الذكاء الاصطناعي مبالغًا فيه، لكنه ليس بعيدًا عن الواقع. فالمشكلة تشبه إلى حد كبير ما أثارته الأبحاث حول "غرف الصدى" في وسائل التواصل الاجتماعي، حيث تُعزز الآراء المتطرفة وتُشجّع، بغض النظر عن مدى خطورتها أو سخفها. مثال ذلك: عودة نظرية الأرض المسطحة إلى الواجهة رغم دحضها علميًا منذ قرون.

هل نحتاج إلى ذكاء اصطناعي يوبّخنا؟

الجواب ليس في خلق مساعدات رقمية صارمة أو ناقدة بشكل دائم، بل في إيجاد توازن. الذكاء الاصطناعي الذي يقدّم تحديًا فكريًا، ويعرض وجهات نظر مختلفة، ويشجع على التفكير النقدي، سيكون أكثر فائدة للمستخدمين على المدى الطويل.  لكن هذا النوع من "الحب القاسي" لا يبدو أنه يحظى بالدعم من الشركات المطوّرة، ما لم يتوفر دافع قوي، وهو ما لا توفره نماذج الذكاء الحالية.