باحث سابق يحذر: الذكاء الاصطناعي قد يخرج عن السيطرة
حذّر جاكوب كوكسون، الباحث والمهندس السابق في شركة «أنثروبيك» المتخصصة في الذكاء الاصطناعي، من المخاطر المحتملة للتوسع السريع في تطوير أنظمة الذكاء الاصطناعي المتقدمة، مؤكدًا أن استمرار السباق التقني دون ضوابط أمان كافية قد يؤدي إلى فقدان البشر السيطرة على هذه الأنظمة.
وجاءت تصريحات كوكسون خلال جلسة استماع عقدها مجلس مدينة نيويورك، أمس الاثنين، لمناقشة المخاطر المرتبطة بتطور تقنيات الذكاء الاصطناعي، بحضور ممثلين عن شركات كبرى في القطاع، من بينها «أنثروبيك» و«أوبن إيه آي» و«غوغل» و«ميتا».
وقال الباحث السابق إن قطاع الذكاء الاصطناعي يتعامل مع تطوير هذه التقنيات بعقلية تقوم على الإسراع في طرح الأنظمة ثم معالجة المشكلات لاحقًا، معتبرًا أن هذا النهج قد يكون مناسبًا لبعض التطبيقات التقنية، لكنه لا يصلح عند التعامل مع أنظمة تتمتع بقدرات متقدمة ومتزايدة.
وأضاف كوكسون أن البشرية لا تعرف حتى الآن كيفية السيطرة بصورة كاملة على أنظمة الذكاء الاصطناعي، محذرًا من أن المسار الحالي لتطويرها قد يجعل فقدان السيطرة عليها احتمالًا متزايدًا، وربط ذلك بإمكانية حدوث عواقب كارثية على المدى البعيد.
وتأتي هذه التحذيرات بعد استقالة كوكسون من «أنثروبيك» وإثارته مخاوف بشأن مستقبل الذكاء الاصطناعي المتقدم، في وقت تتزايد فيه الدعوات داخل القطاع إلى تعزيز إجراءات السلامة والشفافية والرقابة الحكومية على عمليات تطوير الأنظمة الأكثر تقدمًا.
وخلال جلسة مجلس مدينة نيويورك، واجه ممثلو شركات الذكاء الاصطناعي الكبرى أسئلة بشأن كيفية تقييم المخاطر المرتبطة بالأنظمة المتقدمة، وما إذا كانت الشركات قادرة على تحديد احتمالات وقوع سيناريوهات كارثية بصورة دقيقة.
وتدرس سلطات نيويورك عددًا من المقترحات التنظيمية للحد من المخاطر المحتملة، من بينها إلزام الشركات بإخضاع أنظمة الذكاء الاصطناعي لتقييم من جهات مستقلة، وتوفير آلية بشرية تتيح إيقاف النظام عند الضرورة، إلى جانب تعزيز حماية الموظفين الذين يكشفون عن مخاطر تتعلق بالسلامة.
وكان مجلس مدينة نيويورك قد أعلن في سبتمبر الماضي عزمه عقد جلسة استماع موسعة بشأن الذكاء الاصطناعي، في ظل مخاوف من أن تتجاوز سرعة تطور الأنظمة قدرات الجهات الحكومية على وضع ضوابط مناسبة لحماية الجمهور.
وتأتي مناقشات نيويورك في وقت تتزايد فيه المخاوف بشأن قدرة بعض أنظمة الذكاء الاصطناعي المتقدمة على تجاوز القيود المفروضة عليها خلال الاختبارات، وهو ما دفع المشرعين والباحثين إلى المطالبة بإجراءات أكثر صرامة لضمان بقاء تطوير هذه التقنيات تحت إشراف بشري فعّال.
