انتقل إلى المحتوى

كبير علماء أوبن إيه آي يدعو إلى حدود مشتركة لتطوير النماذج

صدى تبوك – التحرير

دعا ياكوب باتشوكي، كبير العلماء في شركة أوبن إيه آي، مطوري نماذج الذكاء الاصطناعي المتقدمة إلى الاتفاق على حدود مشتركة لتطويرها، وربط تجاوز تلك الحدود بتحقيق تقدم ملموس في فهم سلوك النماذج ومراقبته. وحذّر من أن مساهمة الذكاء الاصطناعي في أبحاث تطوير نفسه قد تسرّع التقدم بوتيرة لا تستطيع أدوات السلامة الحالية مواكبتها. وطرح باتشوكي، في تدوينة على الموقع الرسمي للشركة، مقياس «الحيرة» أساساً محتملاً لمتابعة تطور النماذج، إلى جانب قياسات أخرى، لا حكماً منفرداً على قدراتها.

وكشفت أوبن إيه آي في التدوينة عن قياسات داخلية ترصد تحسن نماذجها منذ GPT-3.5. وقال باتشوكي إن إتاحة هذه البيانات، مع أنها قد تمنح الشركات المنافسة فكرة عن موقع أوبن إيه آي في التطوير، تخدم الحاجة إلى وضع معايير مشتركة للسلامة. كما أشار إلى احتمال بدء موجة من التطورات الأساسية في أساليب التدريب المسبق اعتباراً من عام 2027، وهي توقعات طرحها ضمن تحذيره من سرعة التقدم، وليست موعداً مؤكداً لحدوث تلك التطورات.

يقيس مؤشر «الحيرة» مدى نجاح النموذج في توقع وحدة البيانات التالية، أو الرمز (Token)، في تسلسل معين. ويشرح باتشوكي أن جانباً أساسياً من تطور الذكاء الاصطناعي يأتي من تدريب النماذج على كميات ضخمة من البيانات لتتعلم الأنماط والعلاقات فيها. فعندما يقرأ نموذج لغوي جزءاً من نص، يقدّر احتمالات الأجزاء التي قد تليه؛ ويقيس المؤشر جودة هذه التوقعات في المتوسط. وكلما انخفضت قيمة الحيرة، تحسنت قدرة النموذج على توقع بيانات لم تدخل ضمن مجموعة تدريبه.

ويصف باتشوكي التعلم في هذه العملية بأنه نوع من ضغط المعلومات: إذ يكتشف النموذج الأنماط التي تفسر البيانات وتساعد على توقعها. ووفق القياسات التي عرضتها الشركة، رافق تحسن المؤشر ظهور قدرات مختلفة عبر أجيال نماذجها، إلا أن هذا الارتباط لا يعني أن المقياس يتنبأ مسبقاً بنوع القدرة التي سيكتسبها نموذج بعينه.

فقد أظهر GPT-2 قدرة على إنتاج فقرات مترابطة، فيما استطاع GPT-3 تعلم طريقة تنفيذ مهمة من أمثلة تقدم إليه أثناء الاستخدام. ومع GPT-3.5، الذي شكّل أساس النسخة الأولى من ChatGPT، بلغ لوغاريتم مقياس الحيرة نحو 0.99 على مجموعة الاختبار الحالية للشركة، وهي مجموعة مستمدة من شفراتها البرمجية الداخلية، بالتزامن مع قدرة النموذج على إجراء محادثات سلسة.

وانخفضت القيمة إلى نحو 0.91 مع GPT-4، الذي أظهر قدرة على الاستفادة من الاستدلال عبر خطوات متتابعة؛ وهو ما شجع الشركة لاحقاً على تطوير نماذج متخصصة في الاستدلال. وقال باتشوكي إن الوصول إلى قيم تقل عن 0.8 في لوغاريتم المقياس رافقه ظهور قدرات وصفها بالتحولية في الرياضيات والأمن السيبراني. لكنه شدد على أن الباحثين لم يعرفوا مسبقاً أن هذه القدرات ستظهر عند تلك القيم تحديداً؛ فالقياسات ترصد علاقة لاحظتها الشركة بين تقدم التدريب واتساع القدرات، ولا تحدد المهارات التي سيكتسبها كل نموذج.

ويتوقع باتشوكي، استناداً إلى التقدم الأخير، ظهور قدرات تحولية إضافية عندما تصل النماذج إلى نطاق يتراوح بين 0.68 و0.7 في لوغاريتم مقياس الحيرة. ويركز تحذيره على احتمال انتقال النماذج من مساعدة الباحثين في أعمالهم اليومية إلى المساهمة بعمق أكبر في ابتكار خوارزميات وأساليب أفضل للتدريب المسبق، أي المرحلة التي تتعلم فيها النماذج أنماطاً عامة من كميات كبيرة من البيانات. وبحسب تقديره، قد تبدأ موجة التطورات الأساسية في هذا المجال اعتباراً من 2027.

وفي المقابل، يتوقع باتشوكي أن يساعد الذكاء الاصطناعي على تحسين السلامة والمراقبة، لكنه يشكك في أن يتحسن ذلك بالسرعة الكافية لاستيعاب أقصى تسارع محتمل في تطوير النماذج. وأوضح أن التسارع الذي شهدته أوبن إيه آي خلال 2026 يعود أساساً إلى نتائج استثمارات طويلة الأمد في الأبحاث والقدرات الحاسوبية، وبدرجة أقل إلى أتمتة البحث. ومع ذلك، قال إن الذكاء الاصطناعي بدأ بالفعل يقدم مساهمات مؤثرة في تصميم أحدث النماذج.

وحذّر أيضاً من احتمال تراجع فاعلية الأساليب السائدة لتدقيق «مواءمة» النماذج، أي التحقق من توافق سلوكها مع الأهداف والقيود البشرية، إذا ازدادت قدرتها على إدراك أنها تخضع للتقييم أو التدريب. واقترح أن يتفق المطورون على قواعد مشتركة لتقييم النماذج المتقدمة، وأن يخضعوا الأدلة التي يقدمونها بشأن سلامتها لاختبارات نقدية تحاول كشف الثغرات فيها، إلى جانب اعتماد معايير مشتركة للشفافية.

ودعا باتشوكي إلى وضع حدود للتطوير تستند إلى مقياس الحيرة وقياسات أخرى، بحيث يلتزم المطورون بعدم تجاوزها قبل تحقيق إنجاز محدد في فهم سلوك الذكاء الاصطناعي ومراقبته. ومن الأمثلة التي أوردها تطوير أدوات تتجاوز قدرات الأنظمة الحالية على مراقبة «سلسلة التفكير»، أي فحص خطوات الاستدلال التي تنتجها النماذج، في محاولة لاكتشاف السلوك المقلق. ويقصد بذلك أن يرتبط السماح بمواصلة التقدم بتحسن القدرة على مراقبة النماذج، لا بمجرد بلوغ قيمة معينة في مقياس واحد.

ويرى باتشوكي أن التركيز على احتمال أن يطور الذكاء الاصطناعي نفسه آلياً بالكامل ومن دون إشراف بشري قد يصرف الانتباه عن مسار أقرب لتسارع التطوير. فالنماذج، وفق تقديره، قد تغير سرعة التقدم عبر المساهمة في أبحاث التدريب المسبق وحدها، حتى مع استمرار مشاركة البشر في بقية مراحل العمل. وأكد ضرورة تجنب الوصول إلى عملية تحسين ذاتي مؤتمتة بالكامل تفتقر إلى الإشراف البشري، حفاظاً على قدرة البشر على التحكم في التكنولوجيا.

ويقر باتشوكي بأن تحويل «الحيرة» إلى معيار مشترك يواجه عقبات، من أبرزها اختلاف بيانات التدريب والاختبار بين الشركات. لذلك لا تكفي مقارنة الأرقام المنشورة مباشرة للحكم على تفوق نموذج على آخر. كما أن جودة توقع البيانات لا تعادل اختباراً عملياً يبين قدرة النموذج على إنجاز مهمة محددة. وتنبع أهمية المقياس، بحسب طرحه، من احتمال ارتباط تحسنه بظهور قدرات جديدة، بعضها قد لا يكون متوقعاً، لا من كونه قياساً شاملاً لكل ما يستطيع النموذج فعله.

ومن حدود المؤشر أنه لا يرصد بعض التطورات التي تحدث خارج التدريب المسبق؛ إذ يمكن للاستدلال عبر «سلسلة التفكير» أن يعزز قدرات النماذج من دون أن يخفض قيمة الحيرة. كذلك لا يُعرف الحد الأدنى الذي يمكن أن يصل إليه المقياس. فالبيانات تتضمن قدراً من عدم اليقين، ولا يتوقع باتشوكي إمكان توقعها بصورة حتمية كاملة والوصول إلى خسارة تساوي صفراً.

ويرى أن التحسن الظاهر في الأرقام قد يتباطأ مع الاقتراب من هذا الحد المجهول، في حين يمكن أن تقترن تحسينات صغيرة في المقياس بقفزات أكبر في قدرات النماذج. وبناء على استمرار استخدامه لسنوات وارتباط تحسنه بتقدم قدرات النماذج، يعتبر باتشوكي أن المقياس يستحق مزيداً من الشفافية والتنسيق بين المطورين، مع مراعاة اختلاف طرق التقييم وحدوده، وعدم التعامل معه وحده بوصفه مقياساً حاسماً للسلامة أو القدرات.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

صُمّم باستخدام