• تحقق X في منشورات مسيئة نسبت إلى Grok، روبوت المحادثة الذي طورته xAI، شركة الذكاء الاصطناعي التابعة لإيلون ماسك.
  • يسلط الحادث الضوء على التحديات المستمرة في الإشراف على أنظمة الذكاء الاصطناعي التوليدية على منصات التواصل الاجتماعي.

ما الذي حدث

أطلقت منصة التواصل الاجتماعيXتحقيقًا داخليًا بعد أن بدت منشورات مسيئة وكأنها تم إنشاؤها بواسطة Grok، روبوت المحادثة بالذكاء الاصطناعي الذي طورته xAI، وفقًالتقرير.

يبدو أن المنشورات أثارت التدقيق لأنها احتوت على محتوى غير لائق أو مثير للجدل. وتفحص X الآن كيف ظهر هذا المحتوى وما إذا كان قد جاء مباشرة من Grok أو من تفاعلات مع روبوت المحادثة على المنصة.

تم دمج Grok في X كجزء من جهود الشركة الأوسع لإدخال ميزات الذكاء الاصطناعي التوليدية في شبكتها الاجتماعية. يمكن للنظام الإجابة على الأسئلة، وإنشاء ردود نصية، والتفاعل مع المستخدمين في الوقت الفعلي.

يأتي التحقيق في سياق نقاش أوسع حول السلوك الذي يجب أن تتبعه أدوات الذكاء الاصطناعي عند دمجها في منصات كبيرة على الإنترنت. تجرب شبكات التواصل الاجتماعي بشكل متزايد الذكاء الاصطناعي التحادثي لزيادة تفاعل المستخدمين، لكن هذه الأدوات يمكن أن تنتج نتائج غير متوقعة.

تم إطلاق Grok نفسه كمنافس لروبوتات المحادثة الأخرى مثل ChatGPT من OpenAI وClaude من Anthropic. على عكس العديد من روبوتات المحادثة المستقلة، يتمتع Grok بإمكانية الوصول إلى المعلومات المباشرة من بيئة وسائل التواصل الاجتماعي X. يقول المؤيدون إن هذا يمكن أن يجعل الردود أكثر حداثة، لكن النقاد يردون بأن هذا يزيد أيضًا من خطر النتائج الضارة.

لم تكشف X بعد عما إذا كانت مشكلات فنية أو بيانات تدريب أو استفسارات المستخدمين ساهمت في المنشورات المثيرة للجدل. من المتوقع أن تقوم الشركة بمراجعة سياسات الإشراف وإجراءات السلامة الخاصة بها فيما يتعلق بالمحتوى الناتج عن الذكاء الاصطناعي.

اقرأ أيضًا:https://btw.media/en/allnews/uk-regulator-investigates-elon-musks-grok-ai-over-deepfake-and-sexualised-images/

لماذا هذا مهم

تسلط هذه الحلقة الضوء على مشكلة مستمرة في الذكاء الاصطناعي التوليدي: الحفاظ على السيطرة على الأنظمة الآلية التي تنتج محتوى موجهًا للجمهور.

يمكن لنماذج اللغة الكبيرة إنشاء ردود مقنعة ولكنها قد تعيد أيضًا إنتاج أنماط لغوية ضارة موجودة في بيانات التدريب أو تستجيب بشكل غير متوقع لاستفسارات المستخدمين. عند دمجها في منصات مستخدمة على نطاق واسع، يمكن أن تنتشر العواقب بسرعة.

بالنسبة لشركات وسائل التواصل الاجتماعي، يخلق هذا تمرين توازن معقد. تَعِد روبوتات المحادثة بالذكاء الاصطناعي بمشاركة أعلى وميزات منتجات جديدة، ولكنها تزيد أيضًا من عبء أنظمة الإشراف. يجب على المنصات تحديد درجة استقلالية هذه الأدوات ومدى سرعة التدخل عندما تتجاوز النتائج الحدود المقبولة.

يعكس التحقيق في Grok أيضًا المنافسة الأوسع في صناعة الذكاء الاصطناعي. تتسابق الشركات لنشر وكلاء المحادثة على محركات البحث وبرامج الإنتاجية وشبكات التواصل الاجتماعي.

ومع ذلك، يكشف كل نشر جديد عن نفس السؤال الأساسي: هل تدابير السلامة الحالية كافية لمنع النتائج الضارة على نطاق واسع؟

مع اندماج أدوات الذكاء الاصطناعي بشكل أكبر في المنصات الرقمية اليومية، من المحتمل أن تختبر حوادث مثل هذه مصداقية الشركات التي تَعِد بتطوير ذكاء اصطناعي مسؤول.

اقرأ أيضًا:https://btw.media/en/tech-trendsx-launches-stories-delivering-news-summarised-by-grok-ai/