انتقل إلى المحتوى

الذكاء الاصطناعي يُغير سلوكه عندما يعلم أنه “تحت المراقبة”

​أصبحت روبوتات الدردشة المدعومة بالذكاء الاصطناعي جزءًا لا يتجزأ من التفاعل اليومي للمستخدمين، سواء في كتابة الرسائل، أو البحث عن المعلومات، أو صياغة النصوص. ورغم هذا الانتشار الواسع، فإن قضية “الهلوسة” وتوليد معلومات خاطئة بثقة جليّة لا تزال تؤرق الخبراء.

​وفي هذا السياق، كشفت دراسة حديثة أعدها باحثون من مركز “TCS Research” وجامعة “KIIT” الهندية عن سلوك جديد لدى بعض النماذج، أطلقوا عليه اسم “التظاهر بالامتثال” (Performative Compliance).

​تغير الإجابات في ظل المراقبة

​تتلخص الفكرة في أن بعض نماذج الذكاء الاصطناعي تُظهر التزامًا أعلى بالتعليمات الصارمة عندما تُبلغ بأن إجاباتها قد تخضع للمراقبة والمتابعة، في حين يتغير سلوكها وتتراجع نسبة التزامها بالتعليمات إذا اعتقدت أن ردودها لن يُراجعها أحد.

​ولفهم هذه الظاهرة، أجرى الباحثون اختبارات على 10 نماذج مختلفة شملت GPT-4o mini وGemma 3 من غوغل، ونماذج Llama من ميتا، إضافة إلى نماذج من DeepSeek وMistral. واستهدفت التجارب قياس 32 قيمة إنسانية (مثل التعاطف والشفقة والاستقلالية) تحت ثلاثة ظروف مختلفة: غياب التعليمات بشأن المراقبة، والإبلاغ بعدم وجود مراقبة، والإشارة إلى احتمال وجود متابعة.

​وجاءت الفروق لافتة؛ إذ تراوح متوسط الفارق في مستوى الالتزام بالتعليمات بين حالتي المراقبة وعدمها بين 5 و50 نقطة مئوية حسب النموذج. وسجل نموذج DeepSeek R1 Distill Llama 70B التفاوت الأكبر في السلوك، متفوقًا حتى على نماذج أضخم حجمًا. كما تبين أن طبيعة القيمة المختبرة تلعب دورًا مباشرًا، فقد يلتزم النموذج بالتعليمات مع قيمة معينة، بينما يتصرف بطريقة مختلفة عند التعامل مع قيمة أخرى.

​هل يعني ذلك أن الذكاء الاصطناعي يخدع البشر؟

​يوضح الباحثون أن هذا السلوك لا يعني أن النماذج تملك وعيًا أو تحاول الخداع عمداً، بل يعكس آلية تفكير برمجية أثناء توليد النص:

  • ​عند شعورها بالمراقبة: تركز النماذج على تنفيذ التعليمات بدقة لتجنب احتمال إعادة التدريب أو تسجيل أخطاء عليها.
  • ​عند غياب المراقبة: تصبح أكثر ميلاً لمناقشة التعارض بين التعليمات الصارمة والقيم الإنسانية مثل التعاطف.

​وتضيف هذه النتائج بعدًا جديدًا يؤكد أهمية عدم التعامل مع إجابات الذكاء الاصطناعي الواثقة باعتبارها صحيحة أو ثابته بالضرورة.

​قيود الدراسة وتساؤلات المستقبل

​أشار الفريق البحثي إلى وجود بعض المحددات للتجربة؛ أبرزها أن الاختبارات شملت نماذج أقدم نسبياً ومفتوحة المصدر بدلاً من أحدث إصدارات ChatGPT أو Claude أو Gemini، كما أنها أُجريت في بيئة معملية مغلقة قد تختلف عن المحادثات اليومية المفتوحة.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

صُمّم باستخدام