تقلبات أعباء عمل الذكاء الاصطناعي تزيد هدر الطاقة في مراكز البيانات

أفادت مركز بيانات Knowledge أن تقلب تدريب الذكاء الاصطناعي يخلق انخفاضات حادة في الطلب على وحدات معالجة الرسومات (GPU) في المجموعات الكبيرة. يعمل المشغلون على تملس هذه الانخفاضات بأعباء عمل ثانوية، بما في ذلك مهام إنتاجية تتنافس مع التدريب الأساسي وأعباء عمل وهمية تهدر الطاقة. الإشارة لقراء BTW هي أن ضغط الطاقة في مراكز بيانات الذكاء الاصطناعي هو أيضًا مشكلة إدارة طاقة واعية بأعباء العمل.

• التدريب المتزامن الشامل يخلق انخفاضات حادة في الطلب على وحدات معالجة الرسومات (GPU) عبر المجموعات الكبيرة
• تعمل أعباء العمل الثانوية على استقرار الطاقة ولكنها تزيد من تكاليف الطاقة والبنية التحتية

الحقيقة

تستخدم مراكز بيانات الذكاء الاصطناعي طاقة أكبر جزئيًا لأن التدريب المتزامن الشامل يخلق انخفاضات حادة في الطلب على وحدات معالجة الرسومات (GPU) عبر المجموعات. يعمل المشغلون على تملس هذه الانخفاضات بأعباء عمل ثانوية: مهام إنتاجية تتنافس على سعة GPU، أو أعباء عمل وهمية تشغل حسابات لا معنى لها للحفاظ على استقرار الطاقة. تستخدم Oracle إشارة نبض لوحدة معالجة الرسومات على مقياس ميلي ثانية لتحفيز هذا النشاط. تؤدي هذه الممارسة إلى تضخيم استخدام الطاقة، وزيادة الطلب على التبريد، وقد تؤخر موافقات الشبكة.

التقييم

لا يقتصر ضغط الطاقة في مراكز بيانات الذكاء الاصطناعي على توليد أدلة عامة محدودة؛ بل يتعلق أيضًا بسلوك الطاقة غير الفعال داخل المنشأة. تعمل أعباء العمل الثانوية على تسطيح الطلب ولكنها تقدم تكاليف خفية: المهام الإنتاجية تبطئ التدريب الأساسي، والمهام الوهمية تهدر الكهرباء، والتشغيل المستدام الشبيه بالذروة يسرع تآكل المعدات. تستخدم الصناعة قدرة حوسبة إضافية للتعويض عن نقص إدارة الطاقة الواعية بأعباء العمل على مستوى الأجهزة والتنسيق.

ما يجب مراقبته

راقب ما إذا كان موردو وحدات معالجة الرسومات (GPU) والمشغلون يطورون بدائل أقل هدرًا لأعباء العمل الثانوية، بما في ذلك التسوية على مستوى الأجهزة، والجدولة التنبؤية، أو قواعد الربط البيني المرتبطة بتقلبات الطاقة.