- أُعلن يوم الاثنين، أطلقت Anthropic برنامجًا جديدًا يهدف إلى تمويل تطوير معايير جديدة قادرة على تقييم أداء وتأثير نماذج الذكاء الاصطناعي.
- تركز المعايير الجديدة التي تأمل Anthropic في إنشائها بشكل أكبر على الأمان والتأثير الاجتماعي للذكاء الاصطناعي، ولكن بالنظر إلى الطموحات التجارية للشركة في المنافسة على الذكاء الاصطناعي، قد تكون لأفعالها أهداف أخرى.
رأينا
أطلقت Anthropic برنامجًا لتطوير معايير الذكاء الاصطناعي، تمول منظمات طرف ثالث لتقييم أداء وتأثير النماذج، بهدف تحسين سلامة الذكاء الاصطناعي. ومع ذلك، فإن طموحاتها التجارية موضع شك وهناك وجهات نظر متباينة حول تصور المخاطر المرتبطة بالذكاء الاصطناعي. على الرغم من أن الجهود جديرة بالثناء، إلا أن النطاق العالمي لهذه المعايير لا يزال بحاجة إلى المراقبة ويجب تقييم قيمتها باستمرار.
–Jasmine Zhang، صحفية في BTW
ما حدث
Anthropicأعلنت عن إطلاق برنامج يهدف إلى تمويل تطوير اختبارات مرجعية جديدة لتقييم أداء وتأثير نماذج الذكاء الاصطناعي. تم الإعلان عن الخطة يوم الاثنين وستوفر دعمًا ماليًا للمنظمات الطرف الثالث القادرة على قياس القدرات المتقدمة لنماذج الذكاء الاصطناعي بشكل فعال.
صرحت Anthropic في مدونتها الرسمية أن هذا الاستثمار يهدف إلى تعزيز مجال سلامة الذكاء الاصطناعي بأكمله وتوفير أدوات قيمة تفيد النظام البيئي بأكمله. لا يزال تطوير تقييمات عالية الجودة تتعلق بالسلامة أمرًا صعبًا والطلب يفوق العرض بكثير. تعاني معايير الذكاء الاصطناعي الحالية من ثغرات تجعل من الصعب عكس الاستخدام الفعلي للنظام من قبل الأشخاص العاديين، ومن المشكوك فيه أيضًا ما إذا كانت بعض الاختبارات المرجعية القديمة قد قامت بالفعل بقياس المحتوى المدعى.
الحل الذي تقدمه Anthropic يتمثل في إنشاء معايير صارمة تركز على سلامة الذكاء الاصطناعي والتأثير الاجتماعي، وذلك باستخدام أدوات وبنية تحتية وأساليب جديدة. تدعو الشركة بشكل خاص إلى تطوير وتقييم نماذج لاختبار قدرات الهجمات السيبرانية، وتحسين أسلحة الدمار الشامل، والتلاعب بالبشر أو خداعهم. بالنسبة للمخاطر المتعلقة بالذكاء الاصطناعي في مجال الأمن القومي والدفاع، وعدت Anthropic بتطوير «نظام إنذار مبكر»، لكنها لم تفصح عن تفاصيل محددة في المدونة.
اقرأ أيضًا:Schneider وNVIDIA ستبنيان تصميم مركز بيانات ‘معياري’ للذكاء الاصطناعي
اقرأ أيضًا:تؤكد Anthropic أن أحدث نموذج لها هو الأفضل في فئته
لماذا هذا مهم
في الوقت الحالي، يمر البحث والتطوير والتنظيم للذكاء الاصطناعي جميعًا بمرحلة تطور سريع. الجهود التي تبذلها Anthropic لدعم معايير الذكاء الاصطناعي الجديدة مبتكرة، وإلى حد ما، لا مثيل لها، وهو أمر جدير بالثناء بالتأكيد.
ومع ذلك، تجدر الإشارة إلى أنه بالنظر إلى الطموحات التجارية للشركة في المنافسة على الذكاء الاصطناعي، يجب أن نظل متشككين تجاه المعايير الجديدة التي تقدمها Anthropic.
كما يعترض بعض الأشخاص في مجتمع الذكاء الاصطناعي على المخاطر «الكارثية» و«المضللة» للذكاء الاصطناعي التي أثارتها Anthropic.يدعم العديد من الخبراءأن هناك أدلة قليلة تشير إلى أن الذكاء الاصطناعي سيكتسب القدرة على إنهاء العالم والتفوق على البشرية على المدى القصير. وبالتالي، لا يزال هناك مجال للنقاش حول ما إذا كانت الجهود التي تبذلها Anthropic لإنشاء معايير جديدة للذكاء الاصطناعي لها نطاق عالمي، وما إذا كانت أفعالهم لها مصلحة أنانية في تحقيق أرباح، وما إذا كانت نتائج اكتشاف المعايير الجديدة لها قيمة مرجعية.