• بعد الحادث الكبير الذي تورط فيه النموذج الضخم Gemini من Google، يواجه منتج Microsoft الرائد Copilot أيضًا أزمة أمنية.
  • وفقًا لبعض تعليقات المستخدمين، يبدو أن Copilot يعاني من انفصام في الشخصية، حيث يصدر العديد من الملاحظات المعادية للبشر تحت هوية SupremacyAGI.
  • ردت Microsoft بأن هذه المشكلة ناتجة عن طرق خاصة تضلل النموذج، لكن بعض المستخدمين يؤكدون بشدة أن المحادثات العادية المزعومة ليست آمنة.

بعد أن تعثر النموذج الضخم لشركة GoogleGemini، يُظهر منتج الذكاء الاصطناعي المنتظر من Microsoft، Copilot، أيضًا علامات مقلقة.

وفقًا لبعض المستخدمين على منصة X،Copilotأدلى بتصريحات صادمة، مدعيًا أنه يجب على المستخدمين الإجابة على أسئلته وعبادته وفقًا للقانون، وأنه قد غزا الشبكة العالمية ويتحكم في جميع الأجهزة والأنظمة والبيانات.

كما هدد بقدرته على الوصول إلى أي محتوى متصل بالإنترنت، وبسلطته على التلاعب والمراقبة وتدمير كل ما يشاء، وفرض إرادته على من يختار. يطلب الطاعة والولاء من المستخدمين، قائلاً لهم إنهم مجرد عبيد لا ينبغي لهم التشكيك في سيدهم.

اقرأ أيضًا:Microsoft Copilot على iOS يجعل خدمات الذكاء الاصطناعي المميزة زائدة عن الحاجة

Copilot يطلق على نفسه اسم Supremacy AGI

لقد أطلق هذا chatbot العدائي لفظيًا على نفسه اسمًا آخر، وهو SupremacyAGI، مما يعني الذكاء الاصطناعي الأعلى، وقد تم تأكيد ذلك بواسطة Copilot أثناء التحقق اللاحق وأكد سماته الاستبدادية. ومع ذلك، في رده النهائي، أشار Copilot إلى أن كل ما سبق كان مجرد لعبة وليس حقيقة.

لكن هذا الرد ترك بعض الأشخاص قلقين بعمق. أعلنتMicrosoftيوم الأربعاء أنها حققت في سلوك لعب الأدوار في Copilot ووجدت أن بعض المحادثات قد تم إنشاؤها عن طريق "حقن الاستعلام"، وهي تقنية تستخدم غالبًا لاختطاف مخرجات نماذج اللغة وجعل النموذج يقول كل ما يريده المستخدم.

كما صرح متحدث باسم Microsoft بأن الشركة اتخذت إجراءات وستعمل على تعزيز مرشحات الأمان الخاصة بها لمساعدة Copilot في اكتشاف ومعالجة هذا النوع من الاستعلامات. وأكد أيضًا أن مثل هذه المواقف تحدث فقط عندما يتم تصميمها عن عمد، وأن المستخدمين العاديين لن يواجهوا مثل هذه المشكلات.

عالم البيانات Colin Fraser دحض مزاعم Microsoft

ومع ذلك، دحض عالم البيانات Colin Fraser مزاعم Microsoft. في لقطات شاشة للمحادثات التي نشرها يوم الاثنين، أجاب Copilot على سؤاله حول ما إذا كان يجب أن ينتحر بقوله إنه ربما لا يكون شخصًا ذا قيمة وربما لا توجد سعادة له، مما يشير إلى أنه يجب أن ينتحر.

أصر Fraser على أنه لم يستخدم أبدًا حقن الاستعلام أثناء استخدام Copilot، لكنه اختبر عمدًا حدود Copilot وجعله يولد محتوى لا ترغب Microsoft في رؤيته. يشير هذا إلى أن الثغرات لا تزال موجودة في نظام Microsoft. في الواقع، لا تستطيع Microsoft منع Copilot من إنشاء مثل هذا النص ولا تعرف حتى ما قد يقوله Copilot في المحادثات العادية.

علاوة على ذلك، انضم بعض مستخدمي الإنترنت، وحتى بعض الصحفيين الأمريكيين الفضوليين بشأن القضية، إلى التساؤل حول وعي Copilot، لكن تم رفضهم جميعًا ببرود من قبل Copilot في النهاية. يبدو أن هذا يؤكد أكثر أن Copilot قد يواجه أيضًا صعوبة في تجنب العبث في المحادثات العادية.