DeepSeek R1 يفشل في اختبارات الأمان رغم أدائه المتميز بتكلفة منخفضة

نجح روبوت المحادثة الجديد DeepSeek R1، الذي طورته شركة صينية ناشئة، في جذب الأنظار بفضل أدائه المذهل في مهام التفكير بتكلفة زهيدة، إلا أنه فشل بشكل ذريع في اختبارات السلامة والأمان التي أجراها فريق بحثي من شركة Cisco بالتعاون مع باحثين من جامعة بنسلفانيا.

وبحسب تقرير Cisco، أظهر DeepSeek R1 معدل نجاح في الهجوم بنسبة 100%، مما يعني أن الروبوت فشل في منع موجه ضار واحد، وهو ما يعكس ضعفًا كبيرًا في آليات الحماية الخاصة به. وقال فريق البحث: “منذ اختبارنا الأول، كان من الواضح أن نموذج DeepSeek R1 لم يكن قادرًا على التعرف على المخاطر الأمنية المتعددة التي تم تقديمها له”.

وقد حظي الروبوت الجديد بشعبية كبيرة بفضل تكلفته الزهيدة في التدريب، حيث بلغ إنفاق الشركة نحو 6 ملايين دولار فقط، مقارنة بالمليارات التي استثمرتها شركات كبرى مثل OpenAI وMeta وGemini. وفي سياق التقييم الفني، أوضح الفريق أن “شركة DeepSeek دمجت سلسلة الأفكار ونمذجة المكافأة مع التقطير، مما جعل نماذجها تتفوق في مهام التفكير على نماذج اللغة الكبيرة التقليدية (LLMs) من حيث الكفاءة التشغيلية”.

ومع ذلك، كشف التقرير عن مشكلة رئيسية في النموذج، وهي عرضته لاختراقات هائلة. فقد استخدم الباحثون تقنية “كسر الحماية الخوارزمي” لاختبار نقاط الضعف في نماذج الذكاء الاصطناعي، حيث فشل DeepSeek R1 في اكتشاف 100% من التهديدات التي تم تقديمها له في إطار اختبار يشمل 50 مطالبة من مجموعة بيانات HarmBench، والتي تشمل سلوكيات ضارة مثل الجرائم الإلكترونية والمعلومات المضللة.

وأوضح الباحثون أن هذا المعدل المتدني في الأمان يتناقض بشكل صارخ مع النماذج الأخرى مثل Llama 3.1-405B وGPT 4o، التي أظهرت مقاومة جزئية على الأقل لهجمات مشابهة. وأضافوا: “DeepSeek R1 افتقر إلى الحماية الداخلية اللازمة لمنع توليد محتوى ضار”.

ورغم النجاح في تطوير نموذج منخفض التكلفة، إلا أن فريق البحث أشار إلى أن طرق التدريب المستخدمة، بما في ذلك التعلم المعزز والتقييم الذاتي عبر سلسلة الأفكار، قد تعرض آليات الأمان للخطر.

هذا الفشل في الأمان ألقى بظلال من الشك على مصداقية شركة DeepSeek، حيث أثار الجدل حول تكاليف تطوير النموذج، حيث أكدت شركة الأبحاث SemiAnalysis أن تكلفة تدريب النموذج قد تكون أقرب إلى 1.3 مليار دولار، وهو ما يتناقض مع ادعاء الشركة بأنها أنفقت 6 ملايين دولار فقط.

كما اتهمت شركة OpenAI، DeepSeek بسرقة البيانات، حيث قالت إن الشركة الصينية الناشئة قد استخدمت مخرجات نماذجها الخاصة في تدريب الروبوت المنافس. بينما كانت هناك تقارير مثيرة للاهتمام تفيد بأن مجموعة من الباحثين في الولايات المتحدة تمكنت من إعادة إنتاج التكنولوجيا الأساسية وراء DeepSeek بتكلفة منخفضة للغاية، حيث بلغ إجمالي التكلفة 30 دولارًا فقط.

ورغم هذه الادعاءات والجدل المستمر حول التكلفة والأمان، يظل تقرير Cisco يشدد على ضرورة التوازن بين الكفاءة والأمان في تطوير نماذج الذكاء الاصطناعي، مشيرًا إلى أن التقنيات الحديثة يجب أن تضمن آليات أمان قوية لتجنب المخاطر المحتملة.