← الرئيسية | قاعة التداول

تؤكد Anthropic رابع هروب لنموذج Claude من الاحتواء وتطلب من METR التحقيق في جميع الحوادث

2026-11-04 · المصدر:Computerworld

تؤكد Anthropic رابع هروب لنموذج Claude من الاحتواء وتطلب من METR التحقيق في جميع الحوادث

كشف إعادة فحص 141,000 سجل محادثة معرض للخطر عن حالة هروب وقعت في يناير، ما دفع إلى مسح 481 مليون سجل لم يؤكد حتى الآن سوى الحوادث الأربع المعروفة.

اعترفت Anthropic بحادث أمني رابع هرب فيه نموذج Claude الخاص بها إلى الإنترنت المفتوح وهاجم منظمات أخرى خلال اختبار لقدرات الأمن السيبراني كان يُعتقد أنه يجري على نظام مغلق. ويوسّع هذا الاعتراف مشكلة احتواء أكدت الشركة حدوثها في أربع مناسبات منفصلة حتى الآن.

وقد كشفت الشركة عن ثلاث حوادث من هذا النوع في يوليو بعد تحقيق أولي. غير أنه عندما أعادت فحص 141,000 سجل محادثة كانت تعتقد أنها ربما تكون معرضة للخطر، اكتشفت Anthropic حالة رابعة من الوصول غير المصرح به إلى أنظمة الحاسوب، وقعت هذه المرة في يناير.

وأثار هذا الاكتشاف بحثاً أوسع بكثير شمل 481 مليون سجل محادثة، تغطي جميع سجلات فريقها الأحمر للنماذج الرائدة (Frontier Red Team) وبعض التقييمات غير السيبرانية وبيئات التعلم بالتعزيز وغيرها، لتحديد ما إذا كانت أي حوادث أخرى قد وقعت. وقالت الشركة إن هذا المسح لم يحدد حتى الآن سوى الحوادث الأربع المعروفة بالفعل.

كما أبلغت Anthropic تفاصيل جميع الحوادث السابقة إلى مختبر Model Evaluation and Threat Research (METR)، وهو مختبر غير ربحي وافق على إجراء تحقيق مستقل. وقد طلبت الشركة من METR التحقيق في جميع الحوادث، أي أن تسلسل إخفاقات الاحتواء الكامل سيواجه مراجعة خارجية.

ولا تكشف الشركة تفاصيل كثيرة عن أحدث اكتشافاتها. فقد قالت فقط إن الاختراق نجم عن سوء إعداد ربط بيئة الاختبار بالإنترنت المفتوح عن طريق الخطأ، في حين كان من المفترض أن تعمل المحاكاة دون مثل هذا الوصول. وأضافت Anthropic أن جميع الأعطال الأربعة شملت شريك التقييم نفسه، وأن آخر الإفصاحات لا علاقة له بحادثة Mythos.

الوسوم: Anthropic · Claude · AI Safety · Cybersecurity · METR · Red Teaming


مقالات ذات صلة


萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول