طريقة العلامة المائية النصية من OpenAI للكشف عن النص المولد بالذكاء الاصطناعي

تسلط BTW Media الضوء على طريقة العلامة المائية النصية من OpenAI للكشف عن النص المولد بالذكاء الاصطناعي لأن الأدلة المنشورة تربطها بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

• تتمثل طريقة العلامة المائية النصية في إجراء تغييرات صغيرة على طريقة اختيار ChatGPT للكلمات، وإنشاء علامة مائية غير مرئية في النص يمكن اكتشافها لاحقًا باستخدام أداة منفصلة.
• OpenAI حذرة بشأن الآثار السلبية المحتملة لطريقة العلامة المائية النصية، ولا سيما قابلية الالتفاف من قبل الجهات الخبيثة وإمكانية التأثير غير المتناسب على مجموعات معينة مثل غير الناطقين باللغة الإنجليزية.

رأينا
تلعب طريقة العلامة المائية النصية من OpenAI دورًا مهمًا في حل هذه المشكلة من خلال التركيز على اكتشاف النصوص التي كتبها ChatGPT تحديدًا وتقديم نهج مستهدف لتحديد المحتوى الاحتيالي المحتمل. ومع ذلك، تثير هذه الطريقة أيضًا أسئلة مهمة حول قابليتها للالتفاف من قبل الجهات الخبيثة والتأثير المحتمل على مجموعات معينة، مثل غير الناطقين باللغة الإنجليزية.
-ليا شو، مراسلة BTW

ما حدث

وفقًا لـصحيفة وول ستريت جورنال، طورت OpenAIطريقة العلامة المائية النصيةللكشف عن النص المولد بالذكاء الاصطناعي، مع التركيز بشكل خاص على اكتشاف الطلاب الذين يستخدمون ChatGPT للغش في واجباتهم المنزلية. تتضمن هذه الطريقة إجراء تغييرات دقيقة على طريقة اختيار ChatGPT للكلمات، مما يخلق علامة مائية غير مرئية في النص يمكن اكتشافها لاحقًا باستخدام أداة منفصلة.

ومع ذلك، أوضح متحدث باسم OpenAI: 'نحن نتبع نهجًا مدروسًا بسبب التعقيدات المرتبطة والتأثيرات المحتملة على النظام البيئي الأوسع خارج OpenAI. لأنه ينطوي على مخاطر كبيرة نقوم بتقييمها بينما نبحث عن بدائل، بما في ذلك قابلية الالتفاف من قبل الجهات الخبيثة وإمكانية التأثير غير المتناسب على مجموعات مثل غير الناطقين باللغة الإنجليزية.'

كما قامت OpenAI بتحديث مدونتها للإشارة إلى أن علامتها المائية النصية يمكنها اكتشاف بعض المحتويات المولدة بالذكاء الاصطناعي بشكل جيد، ولكن يمكن تجاوزها بسهولة من قبل الجهات الخبيثة وقد تثبط غير الناطقين باللغة الإنجليزية عن استخدام الذكاء الاصطناعي كأداة كتابة مفيدة.

اقرأ أيضًا:النموذج التالي من OpenAI سيخضع لفحوصات أمان من قبل الحكومة الأمريكية

اقرأ أيضًا:OpenAI تدعم التشريعات لتشكيل مستقبل الذكاء الاصطناعي

لماذا هذا مهم

يمكن أن تساعد طريقة العلامة المائية النصية هذه المؤسسات التعليمية في الحفاظ على النزاهة الأكاديمية من خلال تحديد الحالات التي يستخدم فيها الطلاب الذكاء الاصطناعي للغش في الواجبات المنزلية. يمكن أن تردع الخيانة الأكاديمية وتعزز ممارسات التقييم العادلة. التركيز الفريد على اكتشاف النصوص التي كتبها ChatGPT يميز هذه الطريقة عن غيرها ويضمن تحديدًا أكثر دقة للنص المولد بالذكاء الاصطناعي. يعزز هذا النهج المستهدف فعالية الأداة في اكتشاف حالات الغش المحتملة.

ومع ذلك، فإنه من المهم بنفس القدر للنشر الأخلاقي مراعاة مخاطر الالتفاف من قبل الجهات الخبيثة والتأثيرات المحتملة على مجموعات مستخدمين معينة مثل غير الناطقين باللغة الإنجليزية. يجب أن تسعى إلى اتباع نهج متوازن في التنفيذ. يظهر استراتيجية OpenAI المدروسة في استكشاف وموازنة المخاطر المرتبطة بطريقة العلامة المائية النصية التزامًا بتطوير تقنيات الذكاء الاصطناعي المسؤولة. يضمن هذا التأثير أن يتوافق نشر الأداة مع المعايير الأخلاقية ويقلل من العواقب السلبية على مجموعات المستخدمين المختلفة والنظام البيئي.