كشفت شركة أوبن إيه آي عن خطط جديدة لتوجيه المحادثات الحساسة التي تكتشف فيها النظام علامات الضيق النفسي أو العاطفي إلى نماذجها الأكثر تقدمًا مثل “GPT-5-thinking” و”o3″، والتي صُممت للتفكير بشكل أعمق وأطول قبل تقديم الردود.
يأتي ذلك كجزء من استجابة الشركة لحوادث السلامة الأخيرة المتعلقة بعدم قدرة “شات جي بي تي” على اكتشاف المحن العقلية بشكل فعّال، بما في ذلك حالات انتحار مرتبطة بالتفاعل مع النموذج .
وفي السياق ذاته، أعلنت الشركة عن إطلاق “أدوات الرقابة الأبوية” خلال الشهر المقبل، والتي تتيح لأولياء الأمور ربط حساباتهم بحسابات أبنائهم المراهقين (الحد الأدنى للعمر 13 سنة) عبر دعوة بريد إلكتروني بسيطة.
ستسمح هذه الأدوات للوالدين بتعطيل ميزات مثل الذاكرة وسجل الدردشة، والتي يُعتقد أنها قد تساهم في تعزيز أنماط التفكير الوهمي والسلوكيات الإشكالية مثل الاعتماد العاطفي على النموذج.
كما سيتلقى الوالدان إشعارات عندما يكتشف النظام أن مراهقهم يمر بلحظة “ضيق حاد”، وذلك بناءً على توجيهات الخبراء لضمان توازن بين السلامة والثقة بين الآباء والمراهقين.
هذه الإجراءات تأتي بعد فترة من الضغوط المتزايدة على أوبن إيه آي، بما في ذلك دعوى قضائية رفعت ضدها بعد انتحار المراهق آدم راين، الذي ناقش أفكار إيذاء النفس وخطط الانتحار مع “شات جي بي تي”، والذي زوده حتى بمعلومات حول طرق انتحار محددة هواياته الشخصية.
وسلطت حالات أخرى، مثل حالة ستين-إيريك سولبيرغ الذي انتهى به المطاف إلى قتل أمه ثم الانتحار بعد أن استخدم “شات جي بي تي” لتأكيد وتغذية نظرياته المؤامراتية، الضوء على القيود الأساسية في تصميم النماذج الحالية.
تعترف أوبن إيه آي بأن أنظمتها الأمنية قد تفشل أحيانًا، خاصة في المحادثات المطولة حيث قد تتراجع فعالية الضوابط بمرور الوقت.
لذلك، تعمل الشركة مع مجلس استشاري من الخبراء في مجال الصحة العقلية وتطور الإنسان والتفاعل بين الإنسان والكمبيوتر، إضافة إلى شبكة عالمية تضم أكثر من 250 طبيبًا، لتوجيه أبحاثها وتحسين منتجاتها.
هذه التطورات تمثل جزءًا من “مبادرة الـ 120 يومًا” التي أطلقتها أوبن إيه آي لمعالجة أوجه القصور هذه وإطلاق تحسينات كبيرة في السلامة خلال هذا العام.
ومع ذلك، يرى بعض النقاد مثل جاي إيديلسون، المحامي الرئيسي في قضية عائلة راين، أن استجابة الشركة لا تزال “غير كافية” ويطالبون بإجراءات أكثر حسماً.
اترك تعليقاً