OpenAI تخشى استخدام أداتها الصوتية الجديدة في الاحتيال

يتم تسليط الضوء على 'OpenAI قلقة من استخدام أداتها الصوتية الجديدة في الاحتيال' من قبل BTW Media لأن الأدلة المنشورة تربطها بالبنية التحتية للإنترنت والحوكمة والتبعيات التشغيلية أو رؤية السوق.

• يستخدم محرك الصوت من OpenAI تقنية توليف الصوت لواجهة البرمجة وChatGPT لإنتاج أصوات عاطفية وواقعية، مع مشاركة معلومات أولية من نموذج معاينة صغير.
• يتم إصدار محرك الصوت من OpenAI، الذي يُشاد بقدراته في الترجمة الصوتية، بحذر بسبب مخاوف من احتمالية إساءة الاستخدام والاستخدام المسيء للأصوات الاصطناعية.
• تدعو OpenAI إلى الاستخدام المسؤول للأصوات الاصطناعية، مشيرة إلى الحادثة الأخيرة التي قام فيها ستيف كرامر باستنساخ صوت الرئيس بايدن للتأثير على عملية اتخاذ القرار.

أعلنت OpenAI عن محرك الصوت Voice Engine، وهي أداة استنساخ صوتي تعتمد على الذكاء الاصطناعي، على الرغم من إمكاناتها في المساعدة على القراءة والتعرف على الصوت. تعرب الشركة عن قلقها من احتمال إساءة الاستخدام وتلتزم بتطوير ذكاء اصطناعي آمن ومفيد.

التكنولوجيا المتطورة

يستخدم محرك الصوت من OpenAI واجهة برمجة التطبيقات لتوليف الصوت وتقنية ChatGPT لاستنساخ الصوت من مقطع مدته 15 ثانية لإنتاج أصوات عاطفية وواقعية، على عكس طرق القراءة التقليدية التي تتطلب نغمة وتأكيد شخص غير معروف.

نشرت الشركة معلومات أولية ونتائج نموذج معاينة صغير لمحرك الصوت الخاص بها، والذي يستخدم إدخال نص ومقطع صوتي مدته 15 ثانية لإنتاج كلام طبيعي الصوت.

بيانات التدريب لمحرك الصوت غير واضحة، مما يثير القلق لدى شركات الذكاء الاصطناعي المتهمة بانتهاك حقوق النشر. تستند OpenAI إلى الاستخدام العادل، لكن أصحاب الحقوق يرفعون دعاوى قضائية للحصول على تعويضات معلقة.

اقرأ أيضًا:Google.org تطلق مسرّعاً للذكاء الاصطناعي التوليدي للمنظمات غير الربحية

اقرأ أيضًا:من هو جنسن هوانغ؟ مؤسس شركة رقاقات إنفيديا كان مثيراً للمشاكل قبل أن يصبح اسماً رائداً في الذكاء الاصطناعي

سيف ذو حدين من OpenAI

محرك الصوت من OpenAI، الذي يتيح للمستخدمين تغيير لغة المتحدث، حظي بالثناء على مقاطع الصوت المذهلة وقدرات الترجمة الصوتية. ومع ذلك، تتبع الشركة نهجًا حذرًا في الإصدار الأوسع بسبب احتمالية إساءة استخدام الأصوات الاصطناعية. OpenAI، التي قدمت ChatGPT للجمهور في نهاية عام 2022، أصبحت كيانًا ضخمًا، وقد يؤدي انتشارها إلى إثارة إساءة استخدام جديدة.

تهدف OpenAI إلى مناقشة الاستخدام المسؤول للأصوات الاصطناعية وكيف يمكن للمجتمع التكيف مع هذه القدرات الجديدة. في حادثة حديثة، قام ستيف كرامر باستنساخ صوت الرئيس جو بايدن لإنشاء رسالة بريد صوتي تطلب من الناس عدم التصويت في الانتخابات التمهيدية لنيو هامبشاير. تخطط OpenAI لاتخاذ قرارات مستنيرة بناءً على المحادثات والاختبارات على نطاق صغير لخلق فهم أكثر استنارة لإمكانات التكنولوجيا.

يستخدم آخر احتيال في العملات المشفرة ممثلين حقيقيين تم التعاقد معهم على Fiverr لقراءة سيناريو، ويقدم الاحتيال على أنه أصلي. يسلط هذا الضوء على المخاطر المحتملة لاستخدام الأصوات المزيفة المولدة بالذكاء الاصطناعي في الاحتيال، حيث سيستخدم المحتالون دائمًا أدوات جديدة لانتزاع الأموال من الناس.