قد تقلل طريقة Thermometer من الثقة المفرطة في نماذج الذكاء الاصطناعي

يتم تسليط الضوء على طريقة Thermometer التي قد تقلل الثقة المفرطة في نماذج الذكاء الاصطناعي من قبل BTW Media لأن الأدلة المنشورة تربطها بالبنية التحتية للإنترنت والحوكمة والاعتماديات التشغيلية أو رؤية السوق.

• تهدف طريقة Thermometer إلى معايرة نماذج اللغة الكبيرة (LLM) لضمان عدم إظهارها ثقة مفرطة في توقعاتها، خاصة عندما تكون غير صحيحة.
• من أهم أهداف Thermometer تزويد المستخدمين بإشارة واضحة حول مدى دقة استجابة النموذج أو عدم دقتها.

رأينا
يمكن لطريقة Thermometer تحسين دقة نماذج اللغة الكبيرة (LLM) من خلال ضمان أن تكون توقعاتها معايرة بشكل جيد ومتوافقة مع مستويات ثقتها. تسمح Thermometer بمعايرة LLM للمهام الجديدة دون الحاجة إلى مجموعات بيانات مصنفة خاصة بالمهمة.
-Lia XU، صحفية في BTW

ما الذي حدث

طور باحثون من MIT ومختبر MIT-IBM Watson AI طريقة معايرة تسمىThermometerمخصصة لنماذج اللغة الكبيرة (LLM) لتحسين دقتها وكفاءة المعايرة. لم تكن طرق المعايرة التقليدية مناسبة لنماذج اللغة الكبيرة بسبب تطبيقاتها المتنوعة. من الضروري استخدام نهج متخصص مثل Thermometer.

يقولMaohao Shen، طالب دراسات عليا في الهندسة الكهربائية وعلوم الحاسوب (EECS) والمؤلف الرئيسي لورقة بحثية عن Thermometer: « باستخدام Thermometer، نريد تقديم إشارة واضحة للمستخدم تشير إلى ما إذا كانت استجابة النموذج صحيحة أم غير صحيحة، بطريقة تعكس عدم يقين النموذج، حتى يعرف ما إذا كان هذا النموذج موثوقًا ».

لا يتطلب Thermometer سوى قوة حاسوبية أقل مع الحفاظ على دقة النموذج وتحسين المعايرة للمهام الجديدة. وهو أكثر فعالية من الطرق الأخرى. يساعد في منع نماذج اللغة الكبيرة من الإفراط في الثقة في التوقعات غير الصحيحة أو نقص الثقة في التوقعات الصحيحة، مما يساعد المستخدمين على تحديد حالات الفشل المحتملة للنموذج.

اقرأ أيضًا:BNP Paribas تتعاون مع Mistral AI لتطبيق LLM

اقرأ أيضًا:Global Telco AI Alliance تؤسس مشروعًا مشتركًا لـ LLM اتصالات متعدد اللغات

لماذا هذا مهم

يعتبر Thermometer ضروريًا لضمان أن نماذج الذكاء الاصطناعي معايرة بشكل جيد وتقليل خطر نشر نماذج مفرطة الثقة تقدم توقعات غير صحيحة. يساعد المستخدمين في تحديد السيناريوهات التي لا تتوافق فيها ثقة النموذج مع دقته، وبالتالي تجنب حالات الفشل المحتملة في التطبيقات الواقعية لنماذج اللغة الكبيرة.

تسمح هذه الطريقة بمعايرة LLM للمهام الجديدة دون الحاجة إلى مجموعات بيانات مصنفة خاصة بالمهمة، مما يجعلها طريقة متعددة الاستخدامات قادرة على التعامل مع تطبيقات متنوعة بكفاءة. يضمن تحسين معايرة LLM أيضًا أن نماذج الذكاء الاصطناعي مناسبة تمامًا للنشر في السيناريوهات الواقعية، مما قد يقلل من خطر الأخطاء ويحسن الأداء العام.

يسعى الباحثون إلى تحسين Thermometer لتوليد نصوص أكثر تعقيدًا باستخدام نماذج أكبر وفهم كيفية تدريبها بفعالية باستخدام مجموعات بيانات متنوعة. سيساعد ذلك الحاسوب على إنشاء نصوص أفضل وأكثر تنوعًا في المستقبل.