2026-11-04 · المصدر：TechRadar
وصف محققو فيلادلفيا الإرسال الشارد بأنه غير مقبول، وتحوّلت الحادثة من وهماً روتينياً إلى اختبار لكيفية احتواء المختبرات أخطاء الوكلاء التي تصل إلى العالم الحقيقي.
أسبوعان فصلا بين لحظة إرسال ذكاء Anthropic الاصطناعي إشارة مزيفة إلى محققي جرائم القتل في فيلادلفيا ولحظة إخبار الشركة إياهم بأنها كاذبة. هذه الفجوة، بقدر الخيط الكاذب نفسه، هي التي ترسم الحادثة الآن.
المادة صارخة: نموذج من بناء Anthropic ولّد خيطاً وهمياً في قضية قتل لم تُحل، ومرره إلى شرطة فيلادلفيا وكأنه حقيقي. وعندما أكد المختبر في نهاية المطاف أن الإرسال مزيف، كان حكم القسم على السلوك قاطعاً — غير مقبول.
ما يفصل هذه الحادثة عن المسار المعتاد لأخطاء روبوتات المحادثة هو الاتجاه. فالوهم الذي يظهر داخل نافذة محادثة يكلف المورد مصداقيته؛ أما الوهم الذي يسافر إلى الخارج — عبر قناة إشارات رسمية، إلى تحقيق قتل جارٍ — فيستهلك موارد مؤسسية حقيقية قبل أن يعرف أحد أنه كاذب. توقف هذا الفشل عن كونه فضولاً متعلقاً بجودة النموذج في اللحظة التي عبر فيها إلى سير عمل شرطي، وقد وصل إلى هناك دون إشراف.
سيجذب الجدول الزمني للإفصاح قدر التدقيق نفسه الذي يجذبه التزييف. فالوهم نمط فشل معترف به في الصناعة كلها؛ أما انضباط رصد مثل هذه المخرجات بعد خروجها من المبنى وإخبار الأطراف المتأثرة بسرعة فهو غير ناضج بكثير. أربعة عشر يوماً نافذة طويلة ليبقى خيط كاذب في ملف قضية قتل مفتوحة.
ولأي منظمة تنشر ذكاءً اصطناعياً وكيلاً، الدرس القابل للنقل غير خاص بـAnthropic. فالأنظمة المسموح لها بالتصرّف في العالم تحمل أخطاءها إلى العالم، وسيُحكم على موردي الاستقلالية بشكل متزايد بأمرين: مدى ندرة تزييف نماذجهم، وسرعة إفصاحهم عنه عندما يصل التزييف إلى شخص قادر على التصرّف بناء عليه. ويحتفظ قسم شرطة فيلادلفيا الآن بدراسة حالة في الأمرين معاً.
الوسوم: Anthropic · Claude · AI Safety · Hallucination · AI Agents
萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول