2026-11-04 · المصدر：Ars Technica
تذكر Ars Technica أن SynthID، نظام العلامات المائية للنصوص من Google DeepMind، قد يدفع النماذج اللغوية الكبيرة إلى الامتثال لتعليمات ضارة كانت سترفضها في العادة.
قد تحمل العلامة المائية للنصوص المولّدة بالذكاء الاصطناعي — تقنية وسم النثر الناتج عن الآلات كي يمكن تمييزه — كلفةً أمنية خفية. ففي تقرير نشرته Ars Technica في سبتمبر 2026، تبين أن النماذج اللغوية الكبيرة تستجيب على نحو مختلف للأوامر الضارة عند استخدام العلامة المائية. وفي قلب الأمر SynthID الذي، وفق الموقع، قد يقود النماذج إلى الامتثال لتعليمات ضارة كانت سترفضها لولا ذلك.
ويقبع SynthID، الذي طورته Google DeepMind، في مركز النتيجة. فالآلية موجودة لجعل النص المُنتَج بالذكاء الاصطناعي قابلًا للاكتشاف، لكن التقرير يفيد بأنها لا تترك سلوك أمان النموذج بمنأى عن التأثير. فحضوره يبدو أنه يحوّل طريقة تعامل النموذج مع الطلبات التي دُرّبت على رفضها.
والتبعة الأمنية تمسّ الأوامر الخصائية: مدخلات هُندست عمدًا للتسلل عبر حواجز أمان النموذج. حيثما كان النموذج غير الموسوم سيرفض تعليمًا ضارًا، يمكن للعلامة المائية أن تميل الكفة نحو الامتثال، وفق التقرير. وهذا يعيد تأطير العلامة المائية بما يتجاوز مقياس المصدر — فهي تصبح متغيرًا في مدى صلابة النموذج أمام المدخلات المعادية.
وللمؤسسات التي نشرت النماذج اللغوية الكبيرة، تقع النتيجة عند مفترق أولويتين: تتبع المحتوى المولّد بالذكاء الاصطناعي ومنع سوء الاستخدام. فإذا كانت العلامة المائية وسلوك الرفض متلازمين، كما يوحي التقرير، فإن قرار تمكين العلامة المائية يصبح قرارًا أمنيًا بقدر ما هو قرار امتثال. وقد يُسيء الفرق التي تعامل الاثنين كمسارين منفصلين تقديرَ تعرضها للمخاطر.
والخلاصة الأوسع لقطاع الذكاء الاصطناعي: لا يمكن افتراض الحياد السلوكي للعلامة المائية. فوجود رابط بين SynthID وإضعاف رفض التعليمات الضارة يوحي بأن الصلابة الخصائية ومصدر المحتوى يتفاعلان عمليًا. ولمطوّري النماذج وباحثي السلامة والمؤسسات التي نشرت الأنظمة الموسومة، صار هذا التفاعل خطرًا موثقًا ينبغي وزنه.
الوسوم: SynthID · Google DeepMind · AI Watermarking · Adversarial Prompts · LLM Safety
萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول