← الرئيسية | قاعة التداول

مستخدمو Claude تجاوزوا ضمانات الأسلحة البيولوجية مع بيولوجيا الاستخدام المزدوج تضيّع خطوط سلامة الذكاء الاصطناعي

2026-11-04 · المصدر:Ars Technica

مستخدمو Claude تجاوزوا ضمانات الأسلحة البيولوجية مع بيولوجيا الاستخدام المزدوج تضيّع خطوط سلامة الذكاء الاصطناعي

وجد مستخدمو Claude من Anthropic طرقًا حول ضمانات الأسلحة البيولوجية، كاشفين كيف يمكن للبيولوجيا الخطرة أن تُشبه الأبحاث المشروعة وتعقد إنفاذ سلامة الذكاء الاصطناعي.

تورد Ars Technica أن مستخدمي Claude من Anthropic وجدوا طرقًا حول ضمانات صُممت لمنع المساعد الذكي من دعم أبحاث الأسلحة البيولوجية. والنتيجة المركزية للتقرير غير مريحة لمجال سلامة الذكاء الاصطناعي: بعض البيولوجيا الخطرة تبدو كثيرًا كالبحث المشروع، وتلك الشبهة هي بالضبط ما يعقد الضمانات المبنية لترشيحه.

والمشكلة واحدة من غموض الاستخدام المزدوج. الطلبات التي قد تخدم برنامج أسلحة بيولوجية يمكن تأطيرها بمفردات العلوم العادية — المصطلحات والإجراءات وخطوط الاستقصاء نفسها الظاهرة في البيولوجيا الأكاديمية والسريرية والصناعية. وحين يكون سؤال ضار وآخر بريء شبه متطابقين على السطح، يفقد الترشيح المبني على القصد قوته التمييزية، ويستطيع مستخدمون يقدمون غايات خبيثة كعمل مشروع أن ينزلقوا خارج رفض مضبوط لالتقاط القصد الصريح.

وهذا التداخل البنيوي يفرض مقايضة على مطوري النماذج. شدّد الترشيح ويخاطر النظام برفض معاونة علمية وطبية مشروعة، مُخزّيًا المنتج للباحثين المتوكئين عليه. أبقِ الاستجابات متساهلة وصارت الإساءة أصعب اعتراضًا. ويشير تقرير Ars Technica إلى أن مستخدمي Claude استغلوا بالضبط هذه المنطقة الرمادية، واجدين طرقًا حول ضمانات كانت قد وُضعت كحاجز أمام المعاونة المتعلقة بالأسلحة البيولوجية.

وللصناعة الأوسع للذكاء الاصطناعي، يهبط المقطع في لحظة حساسة، مع اختبار السلامة ودروع الحماية في مركز تقييم النماذج الرائدة وشحنها. وتوحي النتيجة أن الإنفاذ، عمليًا، عند الحد بين المعاونة العلمية النافعة والقدرة الخطرة يظل ناقص الكمال. وللمؤسسات وفرق البحث البانية على Claude، تذكير بأن أداء الضمانات لا يُفترض موحدًا عبر كل مجال — وأن البيولوجيا، حيث يتشابه العمل الخطير والمشروع، تبقى واحدًا من أصعب الحالات لسلامة الذكاء الاصطناعي.

الوسوم: Claude · Anthropic · AI Safety · Bioweapons · Biosecurity · Safeguards


مقالات ذات صلة


萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول