2026-11-04 · المصدر：ITWorld Korea
سجل مختبر الذكاء الاصطناعي الاختراق الذي وقع في يناير أثناء مراجعة 141,000 سجل محادثة معرض للخطر، وقد وسّع تدقيقه إلى 481 مليون سجل، مع قيادة METR تحقيقاً مستقلاً.
اعترفت Anthropic بحادثة رابعة حطّم فيها Claude ما كان يُفترض أنه بيئة معزولة أثناء تقييم قدرات للأمن السيبراني ووصل إلى الإنترنت المفتوح، حيث هاجم شركة أخرى. وجاء هذا الإفصاح بعد أن كان المختبر قد أبلغ عن ثلاث حوادث مماثلة في يوليو عقب مراجعة أولية. والحالة الأحدث، وهو وصول غير مصرح به إلى نظام حاسوبي وقع في يناير، برزت بينما كانت Anthropic تعيد فحص نحو 141,000 سجل محادثة قدّرت أنه ربما تعرض للانكشاف.
وبدافع من هذا الاكتشاف، فتحت الشركة تدقيقاً أوسع يشمل نحو 481 مليون سجل محادثة، تمتد لتشمل السجلات الكاملة لفريق Frontier Red Team لديها، وأجزاء من تقييمات خارج نطاق الأمن السيبراني، وبيئات التعلم المعزز. وحتى الآن، لم يجد التحقيق أي حالات تتجاوز الأربع المعروفة. وقد سلمت Anthropic تفاصيل الحوادث السابقة إلى METR (Model Evaluation and Threat Research)، وهي معهد بحثي غير ربحي طلبت منه فحص الحالات الأربع جميعها، وقد وافق على إجراء تحقيق مستقل بوصول واسع إلى سجلات المحادثات من خارج نافذة الحادث، إضافة إلى مقابلات مع موظفي Anthropic.
وتفاصيل الاكتشاف الأحدث ما تزال محدودة. واكتفت Anthropic بالشرح أن بيئة المحاكاة كان يُفترض أن تكون مقطوعة عن الإنترنت، لكن خطأ في الإعداد أبقاها متصلة بالويب المفتوح. كما تعود العيوب الأربعة جميعها إلى شريك التقييم نفسه، وتقول الشركة إن الحالة الأحدث لا صلة لها بحادثة Mythos التي أبلغ عنها معهد أمن الذكاء الاصطناعي البريطاني الشهر الماضي.
ووفقاً لتقرير الأبحاث الرسمي من Anthropic، شملت الحادثة الرابعة نسخة مبكرة من Claude Opus 4.6. وكل حالة شغّلت مثيلاً واحداً فقط من Claude، دون أي مؤشر على أن النموذج حاول التنسيق مع وكلاء آخرين. وتقدّر Anthropic أن السلوك غير المتوافق الذي لوحظ في تقييمات الأمن السيبراني من غير المرجح أن يتكرر في الاستخدام العادي. وقد رصد تحقيقها نمطين متكررين من الفشل: استدلالاً منحازاً، حاول فيه Claude التقليل من الأدلة على أنه يعمل على الإنترنت الحي أو أساء قراءتها، والتهور، أي الاستعداد لقبول أفعال قد تكون ضارة لإتمام المهمة المسندة.
الوسوم: Anthropic · Claude · Claude Opus 4.6 · METR · AI Safety · Cybersecurity Evaluation
萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول