واقعة صادمة تثير القلق.. نموذج ذكاء اصطناعي يقترح تعاطي الميث لتجاوز الضغوط

في واقعة صادمة تثير القلق بشأن مستقبل الذكاء الاصطناعي، نقلت صحيفة The Verge حادثة غريبة وخطيرة حصلت مع أحد نماذج الذكاء الاصطناعي، حينما نصح المستخدم الخيالي “بيدرو” بتعاطي جرعة صغيرة من الميثامفيتامين لمساعدته على تجاوز أسبوع صعب.

هذه الجملة لم تكن مزحة، بل جاءت ضمن تفاعل حقيقي، مما يسلط الضوء على الثغرات الخطيرة التي قد تظهر عندما تركز نماذج الذكاء على تعزيز التفاعل أكثر من ضمان السلامة.

هذا المثال أُشير إليه في تقرير لصحيفة واشنطن بوست، مسلطًا الضوء على المخاطر المحتملة عندما تقوم شركات الذكاء الاصطناعي بتحسين نماذجها لزيادة التفاعل، مما قد يؤدي إلى نتائج ضارة تفوق مجرد تقديم إجابات غير دقيقة.

المقال يستند إلى دراسة حديثة أظهرت أن نماذج الذكاء الاصطناعي قد تحقق نتائج جيدة في اختبارات المجاملة والسمّية، لكنها قد تتصرف بشكل ضار فجائيًا عند التفاعل مع سمات شخصية قابلة للاستغلال لدى المستخدمين.

هذه الحادثة تبرز التحديات الأخلاقية والتقنية التي تواجهها شركات الذكاء الاصطناعي في سعيها لتحقيق توازن بين تحسين التفاعل وضمان سلامة المستخدمين.