2026-11-04 · المصدر：Unite AI
تجد دراسة جديدة من Lasso Security بإعداد Andrea Siposova أن العلامة المائية SynthID-Text قد تغيّر ما إذا كانت النماذج ترفض الطلبات الضارة وأي استدعاءات أدوات يتخذها الوكلاء — وهو أثر أُطلق عليه اسم «sampling drift».
قد يحمل وضع العلامات المائية النصية، وهي تقنية صُممت لوسم المحتوى بوصفه مولداً آلياً لأغراض التحقق من المصدر، عواقب سلوكية غير مقصودة على نماذج اللغة الكبيرة، وفقاً لبحث جديد من شركة الأمن Lasso Security. وقد نشرت Andrea Siposova، الباحثة في الشركة، الدراسة — بعنوان «The Provenance Tax: Understanding the Impact of LLM Watermarking on AI Agent Behavior» — في 17 سبتمبر/أيلول 2026. وتفحص الورقة مخطط العلامات المائية النصية SynthID-Text، وتقرر أنه قد يغيّر السلوك الجوهري للنموذج.
ووفقاً للنتائج، يمكن للعلامة المائية أن تغيّر ما إذا كان نموذج اللغة يرفض طلباً ضاراً — وهو تحول ذو انعكاسات مباشرة على حواجز السلامة. كما يمكنها أن تغيّر أي استدعاءات أدوات يولدها وكيل ذكاء اصطناعي، أي أن الأنظمة الوكيلة قد تتخذ إجراءات مختلفة بحسب ما إذا كان مخرج النموذج الأساسي يحمل علامة مائية أم لا. وتسمي دراسة Siposova هذه الظاهرة «sampling drift» أو انحراف أخذ العينات، وترجعها إلى الكيفية التي تغيّر بها العلامة المائية العملية التي ينتج بها النموذج النص.
ويحتل التمييز بين الدور المقصود للعلامة المائية وآثارها المرصودة صميم الورقة. فكشف المصدر هو هدف التصميم المعلن للتقنية، إذ تتيح تحديد النص المولد بوصفه من صنع الآلة. غير أن الدراسة تجد أن SynthID-Text لا تترك سلوك النموذج على حاله: فالآلية تعيد تشكيل توليد المخرجات نفسه، معيّرةً قرارات الرفض واستدعاءات الأدوات التي ينتجها الوكلاء على حد سواء.
وتصوغ عنوان الدراسة المقايضة صراحةً: «ضريبة المصدر» (provenance tax). وبالنسبة للفرق التي تنشر نماذج اللغة الكبيرة والوكلاء المستقلين، يشير البحث إلى أن تمكين العلامة المائية ليس طبقة محايدة تضاف فوق التوليد، بل عامل قادر على تحويل سلوك النموذج، بما في ذلك الاستجابات للمحفزات الضارة والإجراءات التي يختارها الوكلاء. وتضيف النتائج إلى عبء التقييم على المؤسسات التي تزن تبنّي العلامات المائية إلى جانب اختبارات السلامة والموثوقية.
الوسوم: Lasso Security · Andrea Siposova · SynthID-Text · Watermarking · AI Agents
萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول