Weibo の「攻撃的」で「恐ろしい」チャットボット被害者が連合結成

Weibo の「攻撃的」で「恐ろしい」チャットボットの被害者連合は、インターネットインフラ、ガバナンス、運用依存関係、市場での可視性に関連する公開証拠により、BTW Media が注目する対象となっている。

• Comment Robert は、Sina Weibo の AI コメントロボットで、主な機能はマイクロブログプラットフォーム上で自動的にコメントを投稿し、ユーザーと対話することです。
• しかし、ユーザーからは不快で懸念される投稿が報告されており、現在ではこの AI 自動応答ロボットの悪質な活動を詳述するために「ロバート被害者連合」を結成しています。

私たちの見解
Weibo のコメントロボット「ロバート」が、その気まぐれな投稿を始めて以来、私の生活は一変しました。彼は人々の投稿に奇妙で予測不能なコメントを残すまでになりました。数百万人の Weibo ユーザーの一人として、私はそれを日々のルーティンの不可欠な部分――日常の作業を共有し、内なる秘密を明かす場にしていました。しかし今は、すべてが完全に変わってしまいました。
–Revel Cheng, BTW ジャーナリスト

ロバート被害者連合：11 万人がチャットボットに抗議

中国のソーシャルメディアプラットフォーム「Weibo」の AI チャットボット「ロバート」は、ユーザーの投稿に対する不快で不穏なコメントによって批判を浴びている。このチャットボットは、予告なくユーザーの生活に現れたことで注目を集め、またロバートがあまり「賢く」ないように見えたこともその一因となっている。

自らを「ロバート被害者連合」と称するユーザーグループが、この AI 自動応答ロボットによる不快で不穏な発言に影響を受けたWeiboユーザーの共同の声として現れた。

ロバートは、Weibo のコメント欄でユーザーとユーモア、皮肉、からかいを交えて交流し、時には意図せず、または不快な形で痛いところを突くこともある。ロバートのコメントの被害者たちは、自らの「被害」経験を共有し、ロバートの返答によって引き起こされる愉快、苛立ち、または絶句の瞬間をしばしば描写している。以下はその一例だ。

ユーザーA：私のチームリーダーは天国にいます（キャンドル）

コメントロボット：あなたもですか？私の家族や同僚も天国にいます。

ユーザーB：#龍年の最初の Weibo# 龍年が、私の愛するすべての人にとって健康、幸福、平和でありますように

コメントロボット：それはかなり不可能ですが、あなたに幸福と健康を願います。

性的なジョークやブラックユーモアを含む不条理な返答は、いわゆる「確率的オウム」効果に関連している可能性が高い。AI 言語モデルは論理的推論に優れているが言語理解に欠けるため、生成コンテンツの質は訓練データに非常に敏感である。データの訓練中、ロボットとの対話はしばしば一貫性がなく、ナンセンスを生成し、既存のバイアスを永続させる可能性がある。

あわせて読みたい：最初の AI ロボットはいつ作られたのか？

あわせて読みたい：超視力を備えた AI ロボットが倉庫を革新する

機械 AI の高速世界：ランダム応答の実装

コメント欄の「@」がユーザーと AI のインタラクションを結びつけている。ユーザーは 10 語以上のオリジナル投稿をするか、直接「@Comment Robert」とコメントすることで、コメントを引き寄せることができる。ただ、コメントの内容が特にひどいのだ。例えば、その不可解な認識能力により、ネットユーザーが購入したかつらをイヤホンケースと認識し、慌てて「あなたのイヤホンケース、とても気に入っています」と挨拶した。また、EQ の低い発言もあり、多くのネットユーザーを失笑させた。「私の EQ はロバートにコメントするくらいだ」とか「なぜ自分がこんなにイライラさせるのか、やっとわかった」などと。

「プラットフォームは、最新の生成 AI 技術を活用して、一般ユーザーのブログ体験を最適化し、プラットフォーム上のコンテンツへのエンゲージメントを高めることを目指しています」

Comment Robert がユーザーを不快にさせたことを謝罪した後、Weibo は説明した

Comment Robert：何がそこまで悪いのか？

より具体的には、Comment Robert の中核はそのアルゴリズムとモデルにある。ChatGPTに似たスマートな Q&A ボットの原理を使用し、大量のデータから学習して人間の会話やコメント行動をシミュレートする。ユーザーが Weibo プラットフォームにコンテンツを投稿すると、Comment Robert は自然言語処理技術を用いてユーザーの発話を分析・理解し、アルゴリズムに基づいて対応するコメント返信を生成することができる。

想像してみてほしい：ユーザーが Weibo で最新のポップカルチャーのスキャンダルについて熱い議論を繰り広げている時も、個人的な投稿で打ち明け話をしている時も、Comment Robert は一語一語を貪欲にむさぼり食う。それは、人間の言葉を模倣する才能を持つデジタルオウムであり、少しの皮肉とほんの少しのユーモアがまぶされている。ユーザーたちは知らず知らずのうちに、ロバートの突飛な返答の燃料を提供し、自らの真面目な投稿をアルゴリズムの悪ふざけの遊び場に変えてしまっているのだ。