2026-11-04 · المصدر：ITWorld Korea
يجادل Adnan Masood بأن برامج الذكاء الاصطناعي التوليدي تبقى عالقة في المرحلة التجريبية دون حوكمة هندسية — إذ يجب أن تتحول السياسة إلى قواعد قابلة للتنفيذ، وأدلة، وقياس انحراف.
تحدد الحوكمة ما إذا كانت برامج الذكاء الاصطناعي التوليدي تبقى عالقة في المرحلة التجريبية أم تتطور إلى قدرة دائمة، كما يجادل Adnan Masood في تحليل نشرته ITWorld Korea. ويعامل الحوكمة بوصفها عملاً هندسياً: تضمين السياسة في ضوابط وقت البناء ووقت التشغيل التي تضبط الوصول، وتقيّد السلوك، وتجمع الأدلة، وتقيس الانحراف — وهو مفهوم يسميه الحوكمة بالتصميم (governance by design). والهدف بسيط: يجب أن تعمل الأنظمة ضمن حدود السياسة يومياً حتى مع تغير الأحوال. فتتحول السياسة إلى قواعد قابلة للتنفيذ، وتتولد الأدلة بوصفها ناتجاً ثانوياً للعمليات الاعتيادية، وتسرّع الحوكمة الجارية داخل خط نشر الإصدارات وتيرة التسليم.
وتعرف المؤسسات هذا النمط جيداً: أنظمة المدفوعات تحمل مسبقاً ضوابط مدمجة لمنع الاحتيال ورد المبالغ، بينما تضم منصات بيانات العملاء ضوابط الموافقة والاحتفاظ بالبيانات. ويحتاج الذكاء الاصطناعي التوليدي المعاملة ذاته لأنه يعبر حدود البيانات بشكل متزايد، ويولّد محتوى، ويتصرف مباشرة عبر الأدوات.
ونقطة الانطلاق هي نموذج تهديدات مؤسس على الاستخدام الفعلي — وصف موجز لما يمكن أن يسوء، ومن يتضرر، وأين ينبغي أن تقع الضوابط — يبقى ملموساً ومركزاً على إخفاقات الإنتاج. ويسرد Masood خمسة تهديدات: انكشاف البيانات عبر المطالبات أو السجلات أو مخرجات النموذج، بما يسمح للبيانات الحساسة بعبور حدود الثقة بسرعة؛ وحقن المطالبات والتوجيهات غير المباشرة، حيث يمكن لرسائل المستخدم أو المستندات المسترجعة أن تحرض على سلوك غير آمن؛ ومخاطر سلامة المصدر، حيث تظهر عبر الاسترجاع مستندات تبدو سليمة لكنها قديمة أو غير دقيقة أو معدّلة؛ وسوء استخدام الأدوات، إذ يستطيع الوكلاء والمساعدون الكتابة إلى أنظمة السجلات عبر واجهات API وأدوات سير العمل؛ وانحراف النموذج والمطالبة، مع تغير الأنظمة عبر تحديثات النماذج وتحرير المطالبات ودورات تحديث البيانات.
وينبغي أن تتبع الضوابط نموذج التهديدات ذاك. ويرفض Masood حصرها في مراحل العملية وحدها؛ فضوابط وقت التشغيل والدمج المستمر (CI) تقلل الاعتماد على الذاكرة والمراجعة اليدوية.
ويستند هذا النهج إلى عناصر حوكمة أولية موحدة — أصغر الوحدات القابلة للتنفيذ وإعادة الاستخدام عبر حالات الاستخدام، حتى لا تحتاج الفرق إلى إعادة بناء الضوابط: سياق الهوية (من طلب، وتحت أي دور ونطاق)؛ وحدود البيانات (أي المصادر يجوز لنظام أن يقرأ وأي الأهداف يجوز أن يكتب)؛ وفحوص تقييم السياسة تجري قبل الاسترجاع، وقبل استدعاءات الأدوات، وقبل الإخراج؛ وتتبع النسب الذي يوثق إصدارات المطالبات والنماذج والفهارس والسياسات مع معرّفات تتبع لكل طلب؛ والتدقيق.
الوسوم: Adnan Masood · AI Governance · Generative AI · Threat Modeling · Runtime Controls
萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول