2026-11-04 · المصدر：deep-www.marktechpost.com-p10
أصدر فريق Qwen في Alibaba نموذج مزج الخبراء متعدد الوسائط بأوزان مفتوحة، مقدماً إياه كمعاينة مبكرة لهيكلة Qwen4، وجامعاً عموداً فقرياً بسعة 125B مع تضمينات N-gram وتنبؤ متعدد الرموز.
أصدر فريق Qwen التابع لشركة Alibaba نموذج Qwen3.8-Flash-Next، وهو نموذج مزج خبراء متعدد الوسائط بأوزان مفتوحة، يُقدَّم كمعاينة مبكرة للهيكلة التي سيرتكز عليها جيل Qwen4. يركّز الإصدار الحساب المطلوب لكل رمز في بصمة نشطة صغيرة مع إبقاء قاعدة معاملات متناثرة أكبر بكثير متاحة، وهي بنية تميّزه عن النماذج الكثيفة ذات الحجم الكلي المماثل.
حساب المعاملات غير معتاد. يبلغ إجمالي Qwen3.8-Flash-Next معاملات 180B، منها 6B نشطة فقط لكل رمز. ويتوزع الباقي بين عمود فقري بسعة 125B، وجدول تضمينات N-gram بسعة 51B، ووحدة تنبؤ متعدد الرموز بسعة 4B. ويحتوي جدول التضمينات وحده على أكثر من ربع المعاملات كلها، ما يجعل مكوّن N-gram من السمات المعرِّفة للتصميم.
أربعة تغييرات هيكلية تحدد النموذج: تصميم هجين يجمع Gated DeltaNet مع Qwen Sparse Attention، وآلية Gated Residual، وتضمينات N-gram Embedding، ومحسّن Muon. وتشكل هذه المكونات مجتمعةً جوهر معاينة هيكلة Qwen4، ممنحين المطوّرين ومخططي البنى التحتية نقطة مرجعية مبكرة وقابلة للتشغيل لاتجاه منظومة نماذج Alibaba.
على صعيد الكفاءة، الادعاء الأعلى وقعاً هو تكلفة تدريب معلنة تعادل واحداً من كل تسعة من تكلفة Qwen3.7-Plus. تستهدف هذه المقارنة الاقتصاديات الأهم للمؤسسات التي تدرّب النماذج أو تضبطها بدقة على نطاق واسع، وستُقرأ نتائج الاختبارات المعيارية المصدرها مع النموذج في ضوءها.
النشر يمثل العنوان الآخر لمشتري الحوسبة. يزن نقطة فحص FP8 للاستضافة الذاتية 172.78 GiB، وهي بصمة تحدّ فوراً نطاق تكوينات GPU القادرة على خدمة النموذج محلياً. وللفرق التي تقيّم بدائل متعددة الوسائط بأوزان مفتوحة، يرسم هذا المتطلب من الذاكرة، مقترناً بالملف التناثري البالغ 6B معاملات نشطة، معادلة النشر.
الوسوم: Alibaba · Qwen3.8-Flash-Next · Mixture-of-Experts · Open-Weight Models · Multimodal AI · Muon Optimizer
萬安算交所 AIXX · AIXX · بورصة الحوسبة الموثقة · قاعة التداول