“أوبن إيه آي” تقيد معلومات الأسلحة للمراهقين على “شات جي بي تي” لمنع العنف

أعلنت شركة أوبن إيه آي يوم الجمعة أنها تعمل على تشديد القيود المفروضة على المعلومات المتعلقة بالأسلحة التي يقدمها روبوت الدردشة “شات جي بي تي” للمراهقين، وذلك في إطار إجراءات وقائية جديدة تهدف إلى منع العنف في العالم الواقعي.

وتأتي هذه الخطوة في الوقت الذي تواجه فيه شركات الذكاء الاصطناعي مراقبة متزايدة بشأن المخاطر التي تشكلها روبوتات الدردشة على المستخدمين الشبان ودور الشركات في الكشف عن التهديدات التي قد تسبب الأذى.

وستقيد “أوبن إيه آي” المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها، وستنطبق هذه القيود على المراهقين حتى في حالة عدم وجود أي مؤشر على نية ارتكاب أعمال عنف، بحسب “رويترز”.

وسيتمكن “شات جي بي تي” من إنهاء المحادثات تلقائيًا بالنسبة لجميع المستخدمين عندما يبدو أن أحدهم يفرط التركيز على العنف، وقد تعلق “أوبن إيه آي” الحسابات مؤقتًا بعد تكرار مثل هذه المحادثات مرات عدة.

وقالت الشركة أيضًا إنها عززت نظامها لتقدير العمر لنقل المستخدمين الذين تقدر أن أعمارهم أقل من 18 عامًا إلى تجربة المراهقين، وتخطط لإخطار أولياء الأمور إذا تم تعليق حساب أبنائهم المراهقين بسبب مناقشة العنف على نحو متكرر.

وتقيد “أوبن إيه آي” بالنسبة لجميع المستخدمين التفاصيل المتعلقة بالهجمات الجماعية السابقة، بما يشمل الأسلحة المستخدمة وكيفية الحصول عليها.

وقالت الشركة إن الإجراءات الوقائية الجديدة ستبدأ في التطبيق خلال الأسابيع القليلة المقبلة، وستواصل تحسينها.

كانت “أوبن إيه آي” ذكرت هذا الشهر أن المراهقين يقضون في المتوسط أقل من 15 دقيقة يوميًا على “شات جي بي تي”، وذلك في تقريرها الأول عن استخدام المراهقين المنصة.

وكشف تقرير صادر عن منظمة “كومون سينس ميديا” غير الربحية هذا الشهر أن النسخة المخصصة للمراهقين من “شات جي بي تي” غالبًا ما كانت تنبه أولياء الأمور متأخرًا أو لا تنبههم على الإطلاق عندما كانت حسابات المراهقين تتضمن محادثات عن الانتحار أو إيذاء النفس أو اضطرابات الأكل.