2026-11-04 · المصدر：InfoWorld
تقول TypeSafe AI التي أسسها Diogo Almeida إن نموذج Jev الجديد يعيد القرارات مع احتمالاتها في 70–500 مللي ثانية، متجاوزاً توليد التوكنات المطول الذي يضخم التكاليف في سير العمل المؤتمت.
كشفت TypeSafe AI، وهي شركة ناشئة أسسها الباحث السابق في OpenAI والمخترع المشارك لـ RLHF Diogo Almeida، عن نموذج لغوي كبير مصمم ليتحدث إلى البرمجيات لا إلى البشر. ويأخذ النموذج، المسمى Jev، الحالة الراهنة لمهمة أو سير عمل كمدخل، ويعيد قراراً واحداً محدداً مع الاحتمال المرتبط بهذا القرار. ووفقاً لتدوينة Almeida التي أعلنت عن النظام، تشمل تلك القرارات حالات مثل أي أداة تستدعى، وما الإجراء الذي يُتخذ تالياً، وهل تُوافق على طلب ما، أو متى تُسلَّم المهمة إلى نموذج آخر. والمخرج مصمم ليستهلكه مباشرة تطبيقات برمجية أو نماذج ذكاء اصطناعي أخرى داخل سير عمل مؤتمت.
والفرضية هي أن الإسهاب أصبح ضريبة على ميزانيات الذكاء الاصطناعي. فنماذج اللغة الكبيرة اليوم تستهلك أو تولد حجماً كبيراً من التوكنات حتى عندما يستدعي الطلب الأساس توصية بسيطة، ما يرفع تكاليف الاستخدام. وتُحدّ سير العمل المؤتمت من المشكلة: فلمّا كانت خطوط أنابيب وكلاء البرمجيات تتخذ قرارات أكثر بكثير من العمليات التي يتوسطها البشر، فإن فاتورة التوكنات تتسع مع عدد القرارات. وحيث إن الآلة كثيراً ما تبحث فقط عن إجابة قاطعة، فإن الحشو باللغة الطبيعية حول تلك الإجابة هو إنفاق بلا عائد يُذكر.
ويرتكز ملف سرعة Jev على تجاوز التوليد المتسلسل للنص. فلمّا لم يكن مضطراً لإنتاج توكنات النص واحداً تلو الآخر، قال Almeida، يستجيب النموذج أسرع من الأنظمة التقليدية: إذ يتراوح زمن الاستجابة بين 70 مللي ثانية و500 مللي ثانية، مقابل عدة ثوانٍ لنماذج اللغة الكبيرة التي اختبرتها TypeSafe. وأضاف أن صيغة الاستجابة الموجزة تجعل النموذج أيضاً أرخص تشغيلاً.
وللفرق المؤسسية التي تدمج الذكاء الاصطناعي في سير عمل مؤتمت، فإن العرض ثنائي: توكنات أقل تستهلك لكل قرار، وإجابات تسلَّم بسرعات تتوافق مع عمليات بإيقاع الآلة. وتستهدف TypeSafe حصة من استخدام الذكاء الاصطناعي يكون فيها القارئ برنامجاً آخر لا شخصاً — وهي شريحة يضيف فيها، حسب Almeida، المخرج المطول باللغة الطبيعية تكلفةً دون قيمة. كما يبشر التقرير بأن الوفورات قد تمتد إلى ما بعد تكاليف التوكنات.
الوسوم: TypeSafe AI · Jev · Diogo Almeida · LLM · Automated Workflows · Inference Latency
萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول