• تعلن Anthropic عن برنامج لتمويل تطوير معايير جديدة لتقييم أداء وتأثير نماذج الذكاء الاصطناعي.
  • تعتقد Anthropic أن تطوير تقييمات عالية الجودة متعلقة بالسلامة لا يزال صعبًا وأن الطلب يفوق العرض.

رأينا
بالنظر إلى المصالح التجارية للشركة، قد تكون حيادية المشاريع التي تمولها Anthropic معرضة للخطر. بالإضافة إلى ذلك، بالنسبة لبعض مخاطر الذكاء الاصطناعي «الكارثية» و«الخادعة» التي ذكرتها Anthropic، يرى بعض الخبراء أن ذلك قد يصرف الانتباه عن القضايا التنظيمية الأكثر إلحاحًا للذكاء الاصطناعي الحالي.
–زورا لين، صحفية في BTW

ما حدث

أعلنتAnthropicيوم الاثنين عن إطلاق مبادرة جديدة تهدف إلى تمويل معايير جديدة لتقييم أداء وتأثير نماذج الذكاء الاصطناعي، مثل النماذج التوليدية مثلClaude.

وفقًا لمنشور مدونة رسمي من Anthropic، ستقدم الشركة دعمًا ماليًا لمنظمات خارجية لتطوير أدوات لـ «قياس القدرات المتقدمة لنماذج الذكاء الاصطناعي بفعالية». يمكن للمنظمات المهتمة تقديم طلباتها، وسيتم إجراء التقييمات بشكل مستمر.

تأتي مبادرة Anthropic في أعقاب الانتقادات المتزايدة للمعايير الحالية لنماذج الذكاء الاصطناعي، مثل تقييم MLPerf الذي تجريه مرتين سنويًا منظمة MLCommons غير الربحية. من المقبول على نطاق واسع أن المعايير الأكثر شيوعًا المستخدمة لتقييم نماذج الذكاء الاصطناعي تقيم بشكل سيء كيفية استخدام الأشخاص العاديين لأنظمة الذكاء الاصطناعي في حياتهم اليومية.

تأمل Anthropic في تشجيع مجتمع أبحاث الذكاء الاصطناعي على اقتراح معايير أكثر تطلبًا، تركز على تأثيرها الاجتماعي وسلامتها، وتدعو إلى إصلاح الأساليب الحالية.

اقرأ أيضًا:من هو داريو أمودي؟ الرئيس التنفيذي لشركة Anthropic، حارس أمن الذكاء الاصطناعي

اقرأ أيضًا:Schneider وNVIDIA يعملان على تصميم مركز بيانات مرجعي للذكاء الاصطناعي

لماذا هذا مهم

يهدف استثمار Anthropic إلى رفع مستوى مجال سلامة الذكاء الاصطناعي بأكمله، من خلال توفير أدوات قيمة للنظام البيئي بأكمله.

يركز الابتكار في المعايير ليس فقط على الأداء التقني للنموذج، ولكن أيضًا على تأثيره الاجتماعي وسلامته. بفضل هذا المعيار الجديد، يمكن للباحثين تقييم المشكلات الاجتماعية والأمنية للذكاء الاصطناعي بشكل أفضل، وتقديم دعم قوي لبناء أنظمة ذكاء اصطناعي أكثر موثوقية، والمساعدة في زيادة ثقة الجمهور في تكنولوجيا الذكاء الاصطناعي.

من خلال تقديم الدعم المالي، تشجع Anthropic المنظمات الخارجية على المشاركة في تطوير أدوات المعايير الجديدة، مما سيجذب المزيد من المبتكرين ورواد الأعمال إلى مجال الذكاء الاصطناعي ويعزز ازدهاره.