تقنيات النسيان في الذكاء الاصطناعي تؤثر على الكفاءة

يتم تسليط الضوء على 'تقنيات النسيان في الذكاء الاصطناعي تؤثر على الكفاءة' من قبل BTW Media لأن الأدلة المنشورة تربطها بالبنية التحتية للإنترنت والحوكمة والتبعيات التشغيلية أو وضوح السوق.

• أظهرت أبحاث جديدة أن تقنيات "النسيان" الشائعة التي تسمح لنماذج الذكاء الاصطناعي بنسيان بيانات محددة غير مرغوب فيها يمكن أن تؤدي أيضًا إلى تدهور كبير في أداء النماذج، مما يجعلها غير قابلة للاستخدام في بعض الأحيان.
• يلاحظ الباحثون أنه لا توجد حاليًا أي طريقة "نسيان" فعالة تسمح للنماذج بنسيان بيانات محددة دون فقدان كبير في فائدة النموذج.

رأي المحرر
تم تصميم تقنيات "النسيان" لنماذج الذكاء الاصطناعي لجعل نماذج الذكاء الاصطناعي تنسى معلومات محددة وغير مرغوب فيها تم تعلمها في بيانات التدريب، مثل البيانات الخاصة الحساسة أو المواد المحمية بحقوق النشر. تكشف الدراسة أن تقنيات "النسيان" الحالية يمكن أن تضر بقدرتها على الإجابة على الأسئلة الأساسية، مما يؤدي إلى انخفاض أداء النموذج. ويخلص الباحثون إلى أنه لا توجد حاليًا أي طريقة "نسيان" فعالة تسمح بنسيان بيانات محددة دون فقدان كبير في فائدة النموذج.
-Rae Li، صحفي BTW

ماذا حدث

"النسيان"تقنيات في نماذج الذكاء الاصطناعي تسمح للنموذج بنسيان معلومات محددة وغير مرغوب فيها تم تعلمها من بيانات التدريب، مثل البيانات الخاصة الحساسة أو المواد المحمية بحقوق النشر. يلاحظ الباحثون أنه على الرغم من أن هذه التقنيات يمكن أن تجعل النماذج تنسى بعض المعلومات، إلا أنها يمكن أن تضر أيضًا بأداء النموذج، خاصة في الإجابة على الأسئلة الأساسية. تستخدم الدراسة اختبارًا مرجعيًا يسمى MUSE لتقييم تأثير "النسيان" للخوارزميات المختلفة، وتجد أنه على الرغم من أن هذه التقنيات جعلت النماذج تنسى معلومات محددة، إلا أنها تقلل أيضًا من الفائدة الإجمالية للنماذج.

الدراسة، التي أجراها باحثون من University of Washington وPrinceton University وUniversity of Chicago وUniversity of Southern California وGoogle، تختبر ثماني خوارزميات مختلفة متاحة للعموم وتجد أن تقنيات "النسيان" هذه تجعل النماذج تنسى بيانات محددة، مثل كتب Harry Potter، مع التأثير في نفس الوقت على اكتساب النماذج للمعرفة ذات الصلة. يلاحظ الباحثون أن تصميم طرق نسيان فعالة يمثل تحديًا لأن المعرفة متشابكة في النموذج. على سبيل المثال، قد يكون النموذج قد تعلم كلاً من كتب Harry Potter ومحتوى ويكي Harry Potter المجاني، وعند محاولة إزالة كتب Harry Potter، سيؤثر ذلك أيضًا على معرفة النموذج بويكي Harry Potter. يعتقد الباحثون أنه لم يتم العثور على حل لهذه المشكلة بعد وأن هناك حاجة إلى مزيد من البحث.

اقرأ أيضًا:ما هي استخدامات غرف الخوادم والموردون الرئيسيون لها؟

اقرأ أيضًا:اختراق HP في حلول الذكاء الاصطناعي التي يمكن الوصول إليها

لماذا هذا مهم

مع الاعتماد الواسع النطاق لتقنية الذكاء الاصطناعي، أصبح من الضروري معرفة كيفية معالجة وإدارة المعلومات الحساسة في بيانات التدريب. تم تصميم تقنيات "النسيان" للسماح لنماذج الذكاء الاصطناعي بحذف أو نسيان معلومات محددة من بيانات التدريب الخاصة بها، وهو أمر مهم من حيث حماية الخصوصية والامتثال لقوانين حقوق النشر والاستجابة لطلبات حذف البيانات.

ومع ذلك، تشير الدراسة إلى أن تقنيات "النسيان" الحالية، على الرغم من أنها تسمح لنماذج الذكاء الاصطناعي بنسيان المعلومات غير المرغوب فيها، إلا أنها يمكن أن تضر بأداء النموذج، خاصة قدرتها على الإجابة على الأسئلة الأساسية. يشير هذا إلى أنه على الرغم من أن تقنيات "النسيان" جذابة من الناحية النظرية، إلا أنها قد تكون لها عواقب غير متوقعة تؤثر على موثوقية وفائدة نماذج الذكاء الاصطناعي. لذلك، تكمن أهمية هذه الرسالة في أنها تسلط الضوء على الحاجة إلى مزيد من البحث والابتكار في تطوير وتنفيذ تقنيات "النسيان" لضمان بقاء أنظمة الذكاء الاصطناعي فعالة ودقيقة.