DoorDash、アプリ内暴言対策の新 AI ツール「SafeChat+」を発表

BTW メディアは、DoorDash のアプリ内暴言対策 AI ツール導入に関する公開証拠がインターネットインフラ、ガバナンス、運用依存関係、市場の可視性に結びついているため、この記事をプロファイルしています。

• DoorDash が、顧客と配達員間の暴言を減らす AI 搭載ツール「SafeChat+」を発表。
• 新 AI ソリューション「SafeChat+」は、アプリ内の会話を分析してハラスメント事例を特定し、複数言語に対応し、毎分 1,400 以上のメッセージを処理する。
• 安全性への取り組みとして、DoorDash は、プラットフォーム上の配達の 99.99%以上が安全上の問題なく行われていると述べている。

私たちの見解
DoorDash は、顧客と配達員間の暴言を減らす AI 搭載ツール「SafeChat+」を発表した。アプリへの AI 技術の導入は、ユーザーの安全性向上などの利点をもたらす。さらに、AI はプロセスを合理化し、ユーザー体験を向上させ、最終的に満足度とエンゲージメントの向上につながる。しかしながら、企業は依然として人間による検証を必要とする。
– BTW ジャーナリスト、シルビア・シェン

フードデリバリーとテイクアウトのアプリ DoorDash は、顧客と配達員間の不適切な暴言を減らすことを目的に、攻撃的な言葉を自動検出する新型 AI ツール「SafeChat+」を発表した。

DoorDash、高度な AI ツールを発表

DoorDash は人工知能（AI）を使用してアプリ内の会話を分析し、顧客または Dasher（配達員）がハラスメントの被害に遭っている事例を特定する。この機能は「SafeChat+」と呼ばれる。

同社によると、この AI は英語、フランス語、スペイン語、ポルトガル語、標準中国語など「数十」の言語をカバーし、毎分 1,400 件以上のメッセージを処理できる。AI が特定した問題はすべて、チームメンバーが確認する。

この機能は、DoorDash の信頼・安全チームが手動で暴言をフィルタリングしていた SafeChat からの改良版である。

こちらもお読みください：YouTube、一部クリエイター向けに有名歌手を模倣する AI ツールをテスト

こちらもお読みください：LinkedIn、会員数 10 億人突破、AI ツールを披露

DoorDash の暴言対策への取り組み

TechCrunchによると、同社は SafeChat+ を「SafeChatと同じコンセプトだが、より優れた高度な技術で支えられており、特定のキーワードに一致しない微妙なニュアンスや脅威を理解できる」と説明している。

「当社プラットフォーム上の安全インシデントの主な種類は、暴言やハラスメントであると認識しています。この機能の導入により、プラットフォーム上のインシデント総数を大幅に削減できると考えています。」

プラットフォーム上の配達の 99.99%以上が安全上の問題なく行われていると DoorDash は主張している。