لماذا تخطئ Google AI Overviews غالبًا؟

تم تسليط الضوء على 'لماذا تخطئ Google AI Overviews غالبًا' في تقرير من BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت والحوكمة والاعتماديات التشغيلية أو رؤية السوق.

• نظرات Google AI Overviews تقدم معلومات غير موثوقة بل وقد تكون ضارة للمستخدمين.
• كانت Google تجري تحسينات تقنية لإصلاح المشكلة، لكن القيود المتأصلة لأنظمة الذكاء الاصطناعي لا تزال قائمة.
• وبما أن الشركة ستواصل تحسينها، فلن تكون دقيقة بنسبة 100% أبدًا، لذا لا تهدف الشركة العملاقة في التكنولوجيا إلى عرض نظرات AI Overviews للمواضيع الصريحة أو الخطيرة.

رأينا
بينما تساعد نظرات AI Overviews المستخدمين في معرفة الإجابة في وقت أقصر، إلا أنه لا يمكن الوثوق بها تمامًا بسبب أخطائها المحتملة. لذا، من المهم الحفاظ على التفكير النقدي عند استخدامها.
–أودري هوانغ، مراسلة BTW

بينما تبسط نظرات Google AI Overviews نتائج البحث، فهي أيضًا تولد معلومات مضللة. لذلك، كانت الشركة تجري تحسينات تقنية.

كيف تعمل نظرات AI Overviews؟

تستخدم نظرات AI Overviews نموذجًا جديدًا للذكاء الاصطناعي التوليدي في Gemini، عائلة Google مننماذج اللغة الكبيرة(LLMs). تم دمج النموذج مع أنظمة ترتيب الويب الأساسية من Google وصُمم للبحث عن النتائج ذات الصلة من فهرس مواقع الويب الخاص بها.

اقرأ أيضًا:إيلون ماسك يقول إن الذكاء الاصطناعي سيحل محل جميع وظائفنا

اقرأ أيضًا:التزييف بالذكاء الاصطناعي والمعلومات المضللة المعروضة أمام الناخبين الشباب على TikTok

لماذا ترتكب الأخطاء؟

يقول Suzan Verberne، الأستاذة في Leiden University المتخصصة فيمعالجة اللغة الطبيعية: "يولد نموذج اللغة الكبير لغة طلقة بناءً على المصادر المقدمة، لكن اللغة الطلقة ليست نفس المعلومات الصحيحة". وتضيف: كلما كان الموضوع أكثر تحديدًا، زادت احتمالية المعلومات المضللة في مخرجات نموذج اللغة الكبير، مشيرة إلى أن "هذه مشكلة في المجال الطبي، ولكن أيضًا في التعليم والعلوم".

كيف نحل المشكلة؟

قالت Google إنها تضيف قيودًا على الاستعلامات التي لم تثبت فيها نظرات AI Overviews فعاليتها بشكل خاص، وأضافت "تحسينات تشغيلية" إضافية للاستعلامات المتعلقة بالصحة. يمكن للشركة إضافة خطوة إلى عملية استرجاع المعلومات مصممة لمنع الاستعلامات المحفوفة بالمخاطر وجعل النظام يرفض توليد إجابة في هذه الحالات، كما تقول Verberne. علاوة على ذلك، يمكن لتقنيات مثل التعلم المعزز من التغذية الراجعة البشرية، التي تدمج هذه التغذية الراجعة في تدريب نموذج اللغة الكبير، أن تساهم أيضًا في تحسين جودة إجاباته.