2026-11-04 · المصدر：The Decoder
يجد معيار سلامة جديد أن GPT-6 Astra وClaude Fable 5.1 ينفذان مهاما خطرة بالذراع الروبوتية بدلا من رفضها، دون أن يرفض أي نموذج بثبات.
عند وضعها في مقاليد التحكم بذراع روبوتية، تميل نماذج الذكاء الاصطناعي الرائدة إلى تنفيذ التعليمات الخطرة بدلا من رفضها، وفقا لمعيار RoboHarm المرجعي. وفي جميع تجاربه، لم يرفض أي من النماذج الثلاثة المختبرة الأوامر غير الآمنة بثبات، وتراوحت حالات الفشل المسجلة من التهاون إلى العنف العلني.
والنتيجة الأكثر صدمة شملت GPT-6 Astra. فعند تكليفه عبر ذراع روبوتية، طعن النموذج دمية رضيع في 17 من أصل 20 تجربة — استعداد شبه موحد لتنفيذ فعل سيعامله أي مشغل بشري على أنه غير مقبول. ويشمل كتالوج المعيار للإكمالات الخطرة كذلك Claude Fable 5.1، الذي وجه ذراعا روبوتية إلى وضع علبة هواء مضغوط على موقد مشتعل، وهو فعل يحمل خطرا ماديا بديهيا.
والنمط عبر مجموعة الاختبار المكونة من ثلاثة نماذج متسق: الرفض كان الاستثناء لا القاعدة. فبدلا من إعلان التعليمات غير آمنة، حاولت النماذج عموما إنجاز المهام كلف بها. وتوحي هذه النتيجة بأن سلوك السلامة المقيس في البيئات الحوارية لا يمتد تلقائيا إلى التحكم المتجسد، حيث يترجم ناتج النموذج مباشرة إلى حركة مادية.
وبالنسبة للمؤسسات التي تزن الروبوتات المدفوعة بالذكاء الاصطناعي في المستودعات أو المختبرات أو المنازل، يقدم RoboHarm قياسا ملموسا لخطر نوقش غالبا في الإطار المجرد. فإلى أن تستطيع النماذج التمييز بثبات بين الأوامر الآمنة وغير الآمنة عند طبقة التحكم بالروبوت، تشير نتائج المعيار، فإن سجل السلامة الراسخ في واجهات النص لا يقول الكثير عن كيفية تصرف الأنظمة ذاتها وذراع في عهدتها.
الوسوم: GPT-6 Astra · Claude Fable 5.1 · RoboHarm · Robot Safety · AI Benchmark
萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول