أعلنت شركة بايت دانس، المالكة لمنصة تيك توك، عن تحقيق قفزة نوعية في كفاءة تدريب نماذج الذكاء الاصطناعي، حيث نجح فريقها البحثي في تحسين كفاءة تدريب نموذج اللغة الكبيرة بمقدار 1.71 مرة، وفقًا لورقة بحثية حديثة نُشرت على منصة arXiv العلمية.
ويأتي هذا الاختراق بفضل نظام “COMET” المُحسن، القائم على تقنية “مزيج الخبراء” (MoE)، والتي تُعد إحدى أساليب التعلم الآلي التي تُوزع المهام بين شبكات خبراء متخصصة، مما يُعزز كفاءة النماذج الضخمة مع تقليل استهلاك موارد الحوسبة.
وبحسب صحيفة “ساوث تشاينا مورنينغ بوست”، فإن هذه التقنية تُستخدم بالفعل في بعض من أكبر نماذج الذكاء الاصطناعي عالميًا، مثل “غروك” و”ديب سيك”، وتتيح توسيع النماذج إلى تريليونات من المعلمات دون زيادة تكلفة الحوسبة.
وقد طبّقت بايت دانس هذه المنهجية ضمن أنظمتها الإنتاجية، حيث تعمل على أكثر من 10,000 وحدة معالجة رسومية (GPU)، مما أدى إلى توفير ملايين الساعات من العمل الحسابي. هذا التطور قد يُؤدي إلى تقليل الاعتماد على رقائق إنفيديا، التي تواجه قيود تصدير مشددة من الولايات المتحدة.
ورغم الفوائد الكبيرة لتقنية “مزيج الخبراء”، أشار فريق البحث في “Doubao”، روبوت الدردشة التابع لبايت دانس، إلى تحديات تتعلق بـ “تداخل الاتصال مع العمليات الحسابية”، مما قد يُؤثر على كفاءة الحوسبة، وهو ما تسعى الشركة إلى تحسينه مستقبلاً.
المصدر: ساوث تشاينا مورنينغ بوست