MLCommons sets new AI benchmark tests measuring speed هو كيان يتم تسليط الضوء عليه من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو وضوح السوق.
يتم تتبع MLCommons sets new AI benchmark tests measuring speed كمؤسسة بنية تحتية للإنترنت ضمن النظام البيئي للبنية التحتية للإنترنت.
عدة مصادر عامة
- MLCommonsيقدم اختبارات قياس أداء جديدة تقيس سرعة شرائح وأنظمة الذكاء الاصطناعي في توليد الردود من نماذج اللغة الكبيرة.
- شرائح Nvidia H100، إلى جانب خوادم من Google وSupermicro وNvidia، تتفوق على المنافسين في كلا الاختبارين الجديدين للأداء الخام.
يوم الأربعاء، تضع MLCommons اختبارات قياس أداء جديدة لقياس سرعة الاستجابة لاستفسارات المستخدمين، في محاولة لتحسين الكفاءة.
اختبارات قياس أداء جديدة من MLCommons
يوم الأربعاء، تضع مجموعة قياس الأداء MLCommons سلسلة من الاختبارات وتصدر نتائج متعددة لتقييم سرعة وكفاءة الأجهزة المتطورة في الاستجابة لتفاعلات المستخدمين.
من بين الاختبارات الجديدة التي قدمتها MLCommons، يركز اثنان على استجابة شرائح وأنظمة الذكاء الاصطناعي في توليد المخرجات، مما يوفر رؤى حول السرعة التي يمكن بها لتطبيقات الذكاء الاصطناعي مثل ChatGPT تقديم ردود على استفسارات المستخدمين.
اقرأ أيضًا: Eliyan تجمع 60 مليون دولار أمريكي لوصلات الشرائح التي تسرع شرائح الذكاء الاصطناعي
أحد الاختبارات الجديدة، المسمى Llama 2، يقيس تحديدًا سرعة سيناريوهات الأسئلة والأجوبة لنماذج اللغة الكبيرة، والتي تضم 70 مليار معلمة طورتها Meta Platforms. علاوة على ذلك، وسعت MLCommons أدوات القياس بإضافة مولد ثانٍ للنص إلى الصورة، يسمى MLPerf، استنادًا إلى نموذج Stable Diffusion XL من Stability AI.
مواجهة أداء الخوادم: Nvidia تسيطر على الساحة
من حيث الأداء الخام، برزت الخوادم المجهزة بشرائح Nvidia H100، بما في ذلك تلك من Google وSupermicro وNvidia نفسها، كرائدة في أحدث الاختبارات.
اقرأ أيضًا: مراكز بيانات الجيل التالي من Nvidia ستعمل مع مزودي الخدمات السحابية
قدمت العديد من الشركات المصنعة للخوادم تصاميم تعتمد على شريحة L40S الأقل قوة من Nvidia، لكن Krai قدم تصميمًا لاختبار توليد الصور، باستخدام شريحة ذكاء اصطناعي من Qualcomm معروفة باستهلاكها المنخفض للطاقة مقارنة بمعالجات Nvidia المتطورة.
كما عرضت Intel شرائح التسريع Gaudi2 الخاصة بها، مؤكدة أن النتائج مبهرة. ومع ذلك، من المهم ملاحظة أنه بينما يعتبر الأداء الخام حيويًا، فإن استهلاك الطاقة لشرائح الذكاء الاصطناعي المتقدمة يمثل تحديًا كبيرًا.
موجز الإشارة
- إشارة: MLCommons تطلق اختبارات قياس أداء جديدة للذكاء الاصطناعي
- المنطقة: عالمي
- فئة السوق: اتجاهات الخدمات السحابية العالمية
البصمة التشغيلية
- يجب أن تحدد المصادر المنشورة الأطراف المتأثرة، ونطاق التشغيل، والتعرض للسوق قبل اعتبار خريطة الاتجاه هذه مكتملة.
سياق السوق
- الأهمية التشغيلية: متوسط
- الأفق الزمني: الربع القادم
ما الذي تشاهده
- راقب البيانات الرسمية، التحديثات التنظيمية، تعرض العملاء أو الشركاء، والإفصاحات المتابعة.
إحاطة الأعضاء
السياق الأعمق للاتجاهات
سجّل الدخول بمستوى العضوية المناسب لفتح الإحاطة الكاملة وملاحظات المصادر.
مخصص لـ Strategic Circle
Strategic Circle
مفتوح لجميع القراء. افتح إحاطات الاتجاهات بعد الانضمام وتسجيل الدخول.
انضم إلى Strategic Circleفقط لـ Leadership Alliance
Leadership Alliance
للمشغلين والمستثمرين وفرق السياسات الذين يحتاجون إلى أدلة العلاقات ومسارات الفشل وملاحظات المصادر. سجل الدخول لفتح.
انضم إلى Leadership Alliance
