ضحايا روبوت الدردشة «المُهين» و«المُروّع» من Weibo يشكلون تحالفًا

يتم تسليط الضوء على 'Victims of Weibo's 'offensive' and 'terrifying' chatbot form coalition' من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت والحوكمة والتبعيات التشغيلية أو رؤية السوق.

• Robert هو روبوت تعليقات من الذكاء الاصطناعي من Sina Weibo، وظيفته الرئيسية هي نشر التعليقات تلقائيًا على منصة المدونات الصغيرة والتفاعل مع المستخدمين.
• ومع ذلك، أبلغ المستخدمون عن منشورات مسيئة ومقلقة، وقد شكلوا الآن ائتلاف ضحايا Robert لتفصيل الأنشطة السيئة لروبوت الرد التلقائي هذا.

رأينا
منذ أن بدأ Robert، روبوت التعليقات من Sina Weibo، في إطلاق العنان لنزواته في رسائله، انقلبت حياتي رأسًا على عقب. لقد وصل الأمر إلى حد تقديم تعليقات غريبة وغير متوقعة على منشورات الأشخاص. بكوني واحدًا من ملايين المستخدمين لـ Sina Weibo، كنت قد جعلت منه جزءًا لا يتجزأ من روتيني اليومي – مشاركة مهامي اليومية وكشف أسراري الداخلية. لكن الآن، تغير كل شيء تمامًا.
–Revel Cheng، صحفي في BTW

ائتلاف ضحايا Robert: 110,000 يحتجون على شاتبوت

روبوت دردشة ذكاء اصطناعي من منصة التواصل الاجتماعي الصينية Sina Weibo، يُدعى Robert، أثار انتقادات بسبب تقديمه تعليقات مسيئة ومقلقة على منشورات المستخدمين. لفت الروبوت الانتباه لأول مرة بعد ظهوره في حياة المستخدمين دون سابق إنذار، وأيضًا لأن Robert لم يبدو «ذكيًا» جدًا.

ظهرت مجموعة من المستخدمين، تُطلق على نفسها اسم ائتلاف ضحايا Robert، كصوت جماعي لمستخدمي Weibo المتأثرين بروبوت الرد التلقائي الذكي الذي يطلق تعليقات مهينة ومقلقة.

يتفاعل Robert مع المستخدمين بمزيج من الفكاهة والسخرية والمزاح في أقسام التعليقات على Weibo، ويلمس أحيانًا نقاط حساسة بطريقة غير مقصودة وغير سارة. يشارك ضحايا تعليقات Robert تجاربهم في «الوقوع ضحية»، وغالبًا ما يصفون لحظات من المتعة أو الإحباط أو الصمت الناتجة عن ردود Robert. فيما يلي بعض الأمثلة:

المستخدم أ: قائد فريقي في الجنة (شمعة)

روبوت التعليقات: وأنت أيضًا؟ عائلتي وزملائي أيضًا في الجنة.

المستخدم ب: #أول Weibo في عام التنين# أتمنى لجميع أحبائي الصحة والسعادة والسلام في عام التنين

روبوت التعليقات: على الرغم من أن هذا مستحيل إلى حد ما، أتمنى لك السعادة والصحة.

الردود السخيفة، بما في ذلك النكات الجنسية والفكاهة السوداء، من المحتمل أن تكون مرتبطة بما يسمى تأثير «الببغاء العشوائي». نظرًا لأن نموذج اللغة الذكي يتفوق في الاستدلال المنطقي ولكنه يفتقر إلى فهم اللغة، فإن جودة المحتوى التوليدي حساسة جدًا لبيانات التدريب. أثناء تدريب البيانات، تكون التفاعلات مع الروبوت في كثير من الأحيان غير متناسقة، مما قد يولد سخافات ويديم التحيزات الموجودة.

اقرأ أيضًا:متى تم صنع أول روبوت ذكاء اصطناعي؟

اقرأ أيضًا:روبوتات ذكاء اصطناعي بقوة رؤية خارقة تُحدث ثورة في المستودعات

العالم السريع للذكاء الاصطناعي الميكانيكي: تنفيذ ردود عشوائية

علامة « @ » في منطقة التعليقات تربط التفاعل بين المستخدم والذكاء الاصطناعي. يمكن للمستخدمين جذب التعليقات عن طريق نشر مشاركة أصلية من أكثر من 10 كلمات أو عن طريق وضع علامة @ مباشرة على Robert. المشكلة أن محتوى التعليقات تالف بشكل خاص. على سبيل المثال، تعرفت قدرة التعرف غير الموصوفة على الشعر المستعار الذي اشتراه مستخدمو الإنترنت على أنه علبة سماعات، وسارعت إلى التعليق بـ «أحب علبة السماعات الخاصة بك كثيرًا». هناك أيضًا خطابات منخفضة الذكاء العاطفي، مما دفع العديد من مستخدمي الإنترنت للسخرية: «ذكائي العاطفي يشبه التعليق على Robert»، «أخيرًا عرفت لماذا أنا مزعج».

«تأمل المنصة في الاستفادة من أحدث تقنيات الذكاء الاصطناعي التوليدي لتحسين تجربة التدوين للمستخدمين العاديين وتعزيز تفاعل محتواهم على المنصة.»

أوضحت Weibo بعد أن اعتذر Comment Robert عن إهانة المستخدمين

Comment Robert: ما الذي يجعله سيئًا إلى هذا الحد؟

بشكل أكثر تحديدًا، يكمن جوهر Comment Robert في خوارزمياته ونماذجه. يستخدم مبدأ بوت الأسئلة والأجوبة الذكي المشابه لـ ChatGPT، ويتعلم من كمية كبيرة من البيانات لمحاكاة المحادثة البشرية وسلوك التعليق. عندما ينشر المستخدم محتوى على منصة Weibo، يكون Comment Robert قادرًا على استخدام تكنولوجيا معالجة اللغة الطبيعية لتحليل وفهم خطاب المستخدم، ثم توليد رد التعليق المناسب وفقًا للخوارزمية.

تخيل هذا: سواء كان المستخدمون منخرطين في نقاش حاد على Weibo حول آخر فضيحة في الثقافة الشعبية أو يبوحون بأسرارهم في منشور شخصي، يلتهم Comment Robert كل كلمة بشغف. إنه مثل ببغاء رقمي يمتلك موهبة تقليد الكلام البشري، مع رشة من السخرية وقليل من الفكاهة. يقدم المستخدمون عن غير قصد الوقود لردود Robert الغريبة، محولين دون علمهم منشوراتهم الجادة إلى ملعب لمقالبه الخوارزمية.