جوجل ديب مايند تكشف عن مدقق حقائق ذكاء اصطناعي «خارق» يُدعى «SAFE»

يقوم BTW Media بتسليط الضوء على 'كشف جوجل ديب مايند عن مدقق حقائق ذكاء اصطناعي خارق، SAFE' لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت، أو الحوكمة، أو التبعيات التشغيلية، أو وضوح السوق.

• مُقيّم الحقائق المُعزَّز بالبحث (SAFE) هو أسلوب يستخدم نموذج لغة كبير (LLM) لتقسيم النص المُولَّد إلى حقائق فردية.
• يمكن لنظام الذكاء الاصطناعي «الخارق» هذا تحسين التدقيق في الحقائق، وكفاءة التكلفة، والدقة.
• غاري ماركوس، باحث بارز في الذكاء الاصطناعي، اقترح أن «الخارق» قد يعني ببساطة أفضل من عامل جماعي منخفض الأجر، وليس مدقق حقائق خبير حقيقي.

كشفت جوجل ديب مايند عن نظام ذكاء اصطناعي «خارق» يمكنه التفوق على المدققين البشريين في تقييم دقة المعلومات التي تولدها نماذج اللغة الكبيرة.

مُقيّم الحقائق المُعزَّز بالبحث (SAFE)

هذه الدراسة، بعنوان «الصحافة الواقعية الطويلة في نماذج اللغة الكبيرة»، تُقدم SAFE كأسلوب لتحليل النص المُولَّد إلى حقائق فردية باستخدام نماذج اللغة الكبيرة. ثم تستخدم نتائج بحث جوجل لتحديد دقة كل ادعاء.

وضع الباحثون SAFE في مواجهة مُعلّقين بشريين على مجموعة بيانات تحتوي على حوالي 16000 حقيقة، ووجدوا أن تقييمات SAFE تطابقت مع التقييمات البشرية بنسبة 72% من الوقت. والأكثر إثارة للإعجاب، أنه عندما كان هناك خلاف بين SAFE والمُقيّمين البشريين، كان حكم SAFE صحيحًا في 76% من الحالات.

اقرأ أيضًا:مايكروسوفت توظف مصطفى سليمان، المؤسس المشارك لـ DeepMind، كرئيس تنفيذي لوحدة الذكاء الاصطناعي الجديدة

الأداء «الخارق» أثار الجدل

بينما يدعي الباحثون أن عوامل نماذج اللغة الكبيرة يمكنها تحقيق أداء تقييم «خارق»، يشكك بعض الخبراء في ما يعنيه «الخارق» حقًا هنا.

يقترح باحث الذكاء الاصطناعي غاري ماركوس أن «الخارق» قد يعني ببساطة أفضل من عامل جماعي منخفض الأجر، وليس مدقق حقائق خبير حقيقي.

يجادل ماركوس بأن قياس أداء SAFE مقابل مدققي حقائق بشريين خبراء أمر بالغ الأهمية لإثبات أدائه الخارق حقًا.

مزايا SAFE

الميزة الواضحة لـ SAFE هي التكلفة – وجد الباحثون أن استخدام نظام الذكاء الاصطناعي كان أرخص بحوالي 20 مرة من استخدام المدققين البشريين. مع استمرار نمو كمية المعلومات، يصبح من المهم بشكل متزايد اعتماد نهج منخفض التكلفة وعالي العائد.

استخدم فريق DeepMind أيضًا SAFE لتقييم الدقة الواقعية لـ 4 عائلات (Gemini و GPT و Claude و PaLM-2) من 13 نموذج لغة رائد. وجدوا أن النماذج الأكبر تُنتج عادةً أخطاء واقعية أقل.

ومع ذلك، حتى النماذج الأفضل أداءً لا تزال تُنتج عددًا كبيرًا من العبارات الخاطئة.

يسلط هذا الضوء على خطر الاعتماد المفرط على نماذج اللغة التي يمكنها التعبير بطلاقة عن معلومات غير دقيقة. يمكن لأدوات التدقيق الآلي للحقائق مثل SAFE أن تلعب دورًا رئيسيًا في تخفيف هذه المخاطر.