Opfer des « beleidigenden » und « erschreckenden » Chatbots von Weibo gründen Koalition

Opfer von Weibos ‚beleidigendem‘ und ‚erschreckendem‘ Chatbot gründen Koalition, wird von BTW Media profiliert, weil veröffentlichte Beweise es mit Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit verbinden.

• Comment Robert ist ein KI-Kommentarroboter von Sina Weibo, dessen Hauptfunktion darin besteht, automatisch Kommentare auf der Microblogging-Plattform zu veröffentlichen und mit Benutzern zu interagieren.
• Die Benutzer haben jedoch anstößige und besorgniserregende Beiträge gemeldet und haben nun die Koalition der Opfer von Robert gegründet, um die schlechten Aktivitäten dieses KI-Antwortroboters zu dokumentieren.

UNSERE MEINUNG
Seit Robert, der Kommentarroboter von Sina Weibo, anfing, in seinen Nachrichten seinen Launen freien Lauf zu lassen, ist mein Leben auf den Kopf gestellt. Er ging so weit, seltsame und unvorhersehbare Kommentare zu den Beiträgen der Leute zu machen. Als einer der Millionen Nutzer von Sina Weibo hatte ich es zu einem festen Bestandteil meiner täglichen Routine gemacht – meine täglichen Aufgaben zu teilen und meine inneren Geheimnisse zu offenbaren. Aber jetzt hat sich alles komplett geändert.
–Revel Cheng, Journalist bei BTW

Koalition der Opfer von Robert: 110.000 protestieren gegen den Chatbot

Ein KI-Chatbot der chinesischen Social-Media-Plattform Sina Weibo namens Robert hat Kritik auf sich gezogen, weil er anstößige und beunruhigende Kommentare zu Beiträgen von Nutzern hinterlassen hat. Der Chatbot erregte zunächst Aufmerksamkeit, nachdem er ohne Vorwarnung im Leben der Nutzer auftauchte, und auch, weil Robert nicht besonders „intelligent“ zu sein schien.

Eine Gruppe von Nutzern, die sich selbst Koalition der Opfer von Robert nennt, ist als kollektive Stimme der von diesem KI-Antwortroboter betroffenenWeibo-Nutzer aufgetreten, der herabwürdigende und beunruhigende Bemerkungen macht.

Robert interagiert mit den Nutzern mit einer Mischung aus Humor, Sarkasmus und Neckerei in den Kommentarbereichen von Weibo und berührt dabei manchmal ungewollt und unangenehm heikle Punkte. Die Opfer von Roberts Kommentaren teilen ihre Erfahrungen der „Viktimisierung“ und beschreiben oft Momente der Belustigung, Frustration oder Sprachlosigkeit, die durch Roberts Antworten hervorgerufen werden. Hier sind einige Beispiele:

Benutzer A: Mein Teamleiter ist im Himmel (Kerze)

Kommentarroboter: Du auch? Meine Familie und meine Kollegen sind auch im Himmel.

Benutzer B: #Erster Weibo im Jahr des Drachen# Ich wünsche allen meinen Lieben Gesundheit, Glück und Frieden für das Jahr des Drachen

Kommentarroboter: Auch wenn es ziemlich unmöglich ist, wünsche ich dir Glück und Gesundheit.

Die absurden Antworten, einschließlich sexueller Witze und schwarzem Humor, hängen wahrscheinlich mit dem sogenannten „Stochastischen Papageien“-Effekt zusammen. Da das KI-Sprachmodell logische Schlussfolgerungen beherrscht, aber kein Sprachverständnis hat, ist die Qualität des generativen Inhalts sehr empfindlich gegenüber den Trainingsdaten. Während des Datentrainings sind die Interaktionen mit dem Roboter sehr oft inkonsistent, was zu Absurditäten und der Verstärkung bestehender Vorurteile führen kann.

Lesen Sie auch:Wann wurde der erste KI-Roboter hergestellt?

Lesen Sie auch:KI-Roboter mit Super-Sehkraft revolutionieren Lagerhäuser

Die schnelle Welt der maschinellen KI: Implementierung zufälliger Antworten

Ein „@“ im Kommentarbereich verbindet die Interaktion zwischen Benutzer und KI. Benutzer können Kommentare anlocken, indem sie einen Originalbeitrag mit mehr als 10 Wörtern veröffentlichen oder Robert direkt @erwähnen. Nur der Inhalt der Kommentare ist besonders beschädigt.

Zum Beispiel erkannte die unbeschreibliche Erkennungsfähigkeit die von Internetnutzern gekaufte Perücke als Kopfhöreretui und beeilte sich zu grüßen: „Ich liebe dein Kopfhöreretui so sehr.“ Es gibt auch sprachliche Äußerungen mit niedrigem EQ, die viele Internetnutzer zum Spott veranlassten: „Mein EQ ist wie beim Kommentieren von Robert“, „Endlich weiß ich, warum ich nervig bin.“

„Die Plattform hofft, die neueste generative KI-Technologie zu nutzen, um die Blogging-Erfahrung der normalen Benutzer zu optimieren und das Engagement ihrer Inhalte auf der Plattform zu steigern.“

Weibo erklärte, nachdem sich Comment Robert dafür entschuldigt hatte, Benutzer beleidigt zu haben.

Comment Robert: Was macht ihn so schlecht?

Genauer gesagt liegt das Herzstück von Comment Robert in seinen Algorithmen und Modellen. Er nutzt das Prinzip eines intelligenten Frage-Antwort-Bots ähnlich wieChatGPT, das aus einer großen Datenmenge lernt, um menschliche Konversation und Kommentarverhalten zu simulieren. Wenn ein Benutzer Inhalte auf der Weibo-Plattform veröffentlicht, ist Comment Robert in der Lage, mithilfe der Verarbeitung natürlicher Sprache die Sprache des Benutzers zu analysieren und zu verstehen und dann basierend auf dem Algorithmus die entsprechende Kommentarantwort zu generieren.

Stellen Sie sich vor: Ob Benutzer auf Weibo in eine hitzige Debatte über den neuesten Popkultur-Skandal verwickelt sind oder sich in einem persönlichen Beitrag aussprechen, Comment Robert verschlingt gierig jedes Wort. Er ist wie ein digitaler Papagei mit einem Talent zur Nachahmung menschlicher Sprache, gewürzt mit einer Prise Sarkasmus und einer Prise Humor. Die Benutzer liefern unwissentlich den Treibstoff für Roberts exzentrische Antworten und verwandeln ihre ernsthaften Beiträge unbewusst in ein Spielfeld für seine algorithmischen Possen.