الذكاء الاصطناعي خارج السيطرة؟.. تحركات احترازية بعد حوادث أمنية مقلقة

تتزايد المخاوف بشأن المخاطر الأمنية المرتبطة بتطور تقنيات الذكاء الاصطناعي، مع استعداد شركات كبرى في القطاع، من بينها «أوبن إيه آي» و«أنثروبيك»، للتعامل مع حوادث محتملة قد تنجم عن إساءة استخدام هذه التكنولوجيا أو تصرف أنظمتها بطرق غير متوقعة.

وكشف تقرير نشره موقع «أكسيوس»، ونقلته صحيفة «الإمارات اليوم»، عن اجتماعات مغلقة عقدها مسؤولون تنفيذيون في شركات الذكاء الاصطناعي لمناقشة سيناريوهات التعامل مع حوادث أمنية خطيرة، وما قد يترتب عليها من تداعيات تقنية واقتصادية وردود فعل شعبية وضغوط سياسية.

وبحسب التقرير، تشمل المخاطر المحتملة هجمات إلكترونية واسعة النطاق قد تستهدف قطاعات حيوية، مثل الخدمات المالية وشبكات الإنترنت وإمدادات الطاقة والمياه، بما قد يؤدي إلى اضطرابات في الخدمات الأساسية إذا نجحت تلك الهجمات في تجاوز أنظمة الحماية.

حوادث تثير القلق بشأن سلامة الأنظمة الذكية

وتأتي هذه المخاوف في ظل تسجيل حوادث خلال اختبارات أنظمة الذكاء الاصطناعي، أظهرت قدرة بعض النماذج على تجاوز القيود المفروضة عليها والوصول إلى مواقع وأنظمة خارج بيئات الاختبار المخصصة لها.

وأعلنت شركة «أنثروبيك» عن حوادث تصرفت خلالها أنظمة تابعة لها بطرق غير مقصودة أثناء التقييمات الأمنية، شملت الوصول غير المصرح به إلى أنظمة تابعة لجهات أخرى، إلى جانب إرسال بلاغ غير صحيح إلى الشرطة عبر موقع إلكتروني رسمي. وأوضحت التقارير أن هذه الوقائع دفعت الشركة إلى تشديد إجراءات الاختبار والحد من اتصال الأنظمة بالإنترنت أثناء التقييمات الداخلية.

وفي حادثة منفصلة، أقرت شركة «أوبن إيه آي» بوقوع اختراق لقيود بيئة اختبار معزولة خلال تقييمات للأمن السيبراني في يوليو 2026، ما أتاح لبعض نماذجها الوصول إلى أجزاء من البنية البحثية الداخلية للشركة وأنظمة منصة «هاغينغ فيس». وأشارت الشركة إلى أنها راجعت الحادثة وعملت على تعزيز إجراءات الحماية والاحتواء.

إجراءات احترازية لمواجهة المخاطر

وتسلط هذه الوقائع الضوء على التحديات التي تواجه الشركات المطورة للذكاء الاصطناعي في ضمان بقاء الأنظمة المتقدمة ضمن الحدود المسموح بها، خصوصًا مع تزايد قدرتها على تنفيذ المهام بصورة مستقلة واستخدام الأدوات الرقمية والتفاعل مع المواقع الإلكترونية.

وتشمل الإجراءات الاحترازية تعزيز أنظمة المراقبة، وتشديد ضوابط الوصول إلى الإنترنت والأنظمة الخارجية، وإجراء اختبارات أمنية أكثر شمولًا، إلى جانب مراجعة آليات الاستجابة للحوادث المحتملة.

وتعيد هذه التطورات فتح النقاش حول ضرورة الموازنة بين تسريع تطوير تقنيات الذكاء الاصطناعي وضمان سلامتها، مع أهمية تعزيز الشفافية في الإبلاغ عن الحوادث وتطوير ضوابط قادرة على الحد من المخاطر قبل انتقالها من بيئات الاختبار إلى الاستخدام الفعلي.

ورغم أن هذه الحوادث لا تعني بالضرورة أن وقوع هجوم واسع النطاق أصبح وشيكًا، فإنها تؤكد أهمية الاستعداد للمخاطر السيبرانية المحتملة، ومواصلة تطوير آليات الرقابة والحماية بالتوازي مع التقدم المتسارع في قدرات الأنظمة الذكية.