- أحبطت OpenAI خمس عمليات تأثير سرية استخدمت فيها نماذج الذكاء الاصطناعي التابعة لها لأنشطة احتيالية عبر الإنترنت.
- الحملات التي شاركت فيها جهات فاعلة من روسيا والصين وإيران وإسرائيل كانت تهدف إلى التلاعب بالرأي العام حول القضايا العالمية.
- لجنة أمنية جديدة برئاسة الرئيس التنفيذي Sam Altman ستشرف على تدريب نماذج الذكاء الاصطناعي المستقبلية في OpenAI.
أعلنت OpenAI تحت قيادةSam Altmanبنجاح عن إحباط خمس عمليات تأثير سرية استخدمت نماذج الذكاء الاصطناعي التابعة لها في أنشطة احتيالية عبر الإنترنت. هذه العمليات التي نفذتها جهات فاعلة من روسيا والصين وإيران وإسرائيل، كانت تهدف إلى التلاعب بالرأي العام حول القضايا العالمية الهامة، وأكدت على المخاوف المستمرة بشأن إساءة استخدام تقنية الذكاء الاصطناعي التوليدي.
إفشال العمليات السرية
شمل هذا المحتوى تعليقات قصيرة ومقالات أطول بالإضافة إلى أسماء وسير ذاتية مختلقة لحسابات على وسائل التواصل الاجتماعي. وشملت المواضيع المستهدفة أحداثًا عالمية كبرى مثل الغزو الروسي لأوكرانيا، والصراع في غزة، والانتخابات الهندية، والشؤون السياسية في أوروبا والولايات المتحدة.
اقرأ أيضًا:OpenAI تنضم إلى Vox و The Atlantic بينما تواصل وسائل الإعلام بيع المحتوى لنماذج الذكاء الاصطناعي
اقرأ أيضًا:OpenAI تشكل فريقًا للتحكم في الذكاء الاصطناعي "فائق الذكاء"
الهدف والتأثيرات
الهدف الرئيسي لهذه الحملات كان التلاعب بالرأي العام والتأثير على النتائج السياسية. أوضحت OpenAI أن هذه العمليات المضللة لم تحقق تفاعلًا متزايدًا من المستخدمين أو وصولًا أوسع عبر خدماتها. علاوة على ذلك، لم تعتمد هذه العمليات فقط على المواد المولدة بالذكاء الاصطناعي، بل شملت أيضًا نصوصًا مكتوبة يدويًا أو ميمات منسوخة من مصادر إنترنت مختلفة.
رد فعل OpenAI والتطورات المرتبطة
كرد فعل على هذه التحديات، قامت OpenAI بتشكيل لجنة أمنية يديرها الرئيس التنفيذي Sam Altman وأعضاء مجلس الإدارة الآخرين، للإشراف على تدريب نماذج الذكاء الاصطناعي المستقبلية. تؤكد هذه المبادرة على التزام الشركة بمعالجة المخاوف الأمنية المتعلقة بإساءة استخدام تقنية الذكاء الاصطناعي التوليدي. بالإضافة إلى ذلك، حددتMeta Platformsفي تقريرها الأمني الربع سنوي محتوى من المحتمل أن يكون مولّدًا بالذكاء الاصطناعي واستُخدم بشكل مضلل على فيسبوك وإنستغرام، بما في ذلك تعليقات تدعم تعامل إسرائيل معالصراع في غزةضمن منشورات المؤسسات الإخبارية العالمية والمشرعين الأمريكيين.