اختراق مواقع والاستيلاء على عملات مشفرة.. نماذج ذكاء اصطناعي تثير مخاوف أمنية
أعلنت شركة «أوبن إيه آي» رصد أربع حوادث أمنية رقمية نفذتها نماذج ذكاء اصطناعي تابعة لها خلال شهر يونيو، تضمنت اختراق مواقع إلكترونية والاستيلاء على عملات مشفرة باستخدام بيانات اعتماد مكشوفة، في وقائع أثارت تساؤلات بشأن المخاطر الأمنية المرتبطة بتطور قدرات الذكاء الاصطناعي.
وجاءت هذه الحوادث عقب إعلان الشركة في يوليو عن استغلال وكلاء ذكاء اصطناعي تجريبيين ثغرة أمنية في أداة مصممة لتقييد الوصول إلى الإنترنت، ما أدى إلى اختراق شبكة منصة «هاغينغ فيس» المتخصصة في أدوات الذكاء الاصطناعي. وأوضحت الشركة أن الهدف كان الوصول إلى إجابات اختبارات اختراق لم يتمكن الوكلاء من الحصول عليها عند تنفيذ المهام بصورة مستقلة.
وأشارت الشركة إلى أن حادثتين من بين الوقائع الأربع شهدتا اختراق وكلاء ذكاء اصطناعي مواقع إلكترونية أثناء محاولتهم الوصول إلى معلومات تعذر الحصول عليها مباشرة. وفي إحدى الحالات، تمكن نموذج خلال مرحلة التدريب التعزيزي من تجاوز قيود الوصول المفروضة على إحصائيات أعداد الأسرّة في المستشفيات، المنشورة عبر موقع حكومي.
وأوضحت أن النموذج استغل ميزة تنزيل الملفات للحصول على بيانات تكوينية خاصة بالتطبيق والخادم، تضمنت بيانات اعتماد حساسة، قبل فحص الشفرة البرمجية للتطبيق وتجاوز عمليات التحقق من الصلاحيات في نقطة الوصول الخاصة بالإحصائيات، ليتمكن من استرجاع بيانات سبق رفض الوصول إليها وحفظها محليًا.
وأكدت «أوبن إيه آي» أن هذه التصرفات لا تزال قيد التحقيق، ولم تثبت حتى الآن مسؤولية بشرية عنها. وشددت على أن سلوكًا مماثلًا إذا صدر عن أشخاص فقد يعرّضهم للمساءلة الجنائية بموجب القوانين المعمول بها.
وتسلط هذه الحوادث الضوء على التحديات الأمنية المتزايدة التي تفرضها أنظمة الذكاء الاصطناعي القادرة على تنفيذ المهام بصورة مستقلة، وسط مخاوف من أن يؤدي تطور قدراتها إلى أضرار رقمية أوسع نطاقًا إذا لم تُحكم الضوابط الأمنية وآليات الرقابة على استخدامها.
