- تقدم نظرات Google AI العامة معلومات غير موثوقة، بل وربما خطيرة، للمستخدمين.
- قامت Google بتحسينات تقنية لحل المشكلة، لكن القيود المتأصلة في أنظمة الذكاء الاصطناعي لا تزال قائمة.
- ستواصل الشركة تحسينها، لكنها لن تكون دقيقة بنسبة 100٪ أبدًا، ولهذا لا تسعى شركة التكنولوجيا العملاقة لعرض نظرات AI العامة لموضوعات صريحة أو خطيرة.
رأينا
على الرغم من أن نظرات AI العامة تساعد المستخدمين في الحصول على الإجابة في وقت أقصر، إلا أنه لا يمكن الوثوق بها تمامًا بسبب أخطائها المحتملة. لذلك من المهم الحفاظ على روح نقدية عند استخدامها.
–أودري هوانغ، صحفية في BTW
بينما تبسط نظرات Google AI العامة نتائج البحث، فإنها تولد أيضًا معلومات مضللة. وبالتالي، قامت الشركة بتحسينات تقنية.
كيف تعمل نظرات AI العامة؟
تستخدم نظرات AI العامة نموذجًا جديدًا للذكاء الاصطناعي التوليدي من Gemini، عائلة نماذج اللغة الكبيرة (LLMs) من Google. تم دمج النموذج مع أنظمة تصنيف الويب الأساسية في Google وصُمم للبحث عن نتائج ذات صلة في فهرس مواقع الويب.
اقرأ أيضًا:Elon Musk يؤكد أن الذكاء الاصطناعي سيحل محل جميع وظائفنا
اقرأ أيضًا:معلومات كاذبة وتضليل بواسطة الذكاء الاصطناعي تعرضت للناخبين الشباب على TikTok
لماذا يولد هذا أخطاء؟
"يولد نموذج اللغة الكبير لغة سلسة بناءً على المصادر المقدمة، لكن اللغة السلسة ليست مرادفة للمعلومات الصحيحة"، تشرح سوزان فيربيرن، الأستاذة في جامعة ليدن المتخصصة فيمعالجة اللغة الطبيعية. وتؤكد أنه كلما كان الموضوع أكثر تحديدًا، زاد خطر المعلومات المضللة في مخرجات نموذج اللغة الكبير: "هذه مشكلة في المجال الطبي، ولكن أيضًا في التعليم والعلم."
كيف نحل المشكلة؟
أعلنت Google أنها تضيف قيودًا على التشغيل للاستعلامات التي لا تكون فيها نظرات AI العامة مفيدة بشكل خاص، وأضافت "تحسينات تشغيل" إضافية للاستعلامات المتعلقة بالصحة. وتشير السيدة فيربيرن إلى أن الشركة قد تضيف خطوة إلى عملية البحث عن المعلومات مصممة لمنع الاستعلام الخطير ودفع النظام لرفض توليد رد في هذه الحالات. بالإضافة إلى ذلك، يمكن لتقنيات مثل التعلم المعزز من التغذية الراجعة البشرية، التي تدمج هذه التغذية الراجعة في تدريب نموذج اللغة الكبير، أن تساهم أيضًا في تحسين جودة ردوده.