OpenAI、新音声ツールが詐欺に使われることを懸念

BTW メディアが「OpenAI、新音声ツールが詐欺に利用されることを懸念」をプロファイリングする理由は、公開された証拠がインターネットインフラ、ガバナンス、運用依存、または市場可視性に関連しているためです。

• OpenAI の Voice Engine は、API と ChatGPTの音声合成技術を使用し、小規模プレビューで得られた予備情報に基づいて、感情豊かでリアルな声を作り出します。
• OpenAI の Voice Engine は、言語翻訳能力で賞賛される一方、合成音声の悪用や潜在的な乱用に対する懸念から、慎重に公開されています。
• OpenAI は合成音声の責任ある展開を提唱しており、最近スティーブ・クレイマーがバイデン大統領の声をクローンして意思決定に影響を与えようとした事件を引用しています。

OpenAI は、AI ベースの音声クローンツール「Voice Engine」を発表しました。読み上げ支援や音声認識への応用可能性があるものの、同社は悪用を懸念し、安全で有益な AI 開発に取り組んでいます。

最先端の技術力

OpenAI の Voice Engine は、自社の音声合成 API と ChatGPT の音声技術を利用し、15 秒の音声サンプルから感情豊かでリアルな声を作り出します。これは、読み手の声色や抑揚を必要とする従来の読み上げ手法とは異なります。

同社は、テキスト入力と 15 秒の音声サンプルを用いて自然な音声を生成する Voice Engine モデルの予備情報と小規模プレビューの結果を公開しました。

Voice Engine の訓練データは不明瞭であり、著作権侵害で告発される AI 企業への懸念を呼んでいます。OpenAI はフェアユースを主張していますが、権利者は未払いの補償を求めて訴訟を起こしています。

こちらもお読みください：Google.org、非営利団体向け生成 AI アクセラレーターを開始

こちらもお読みください：Jensen Huang とは誰か？チップメーカーNvidia の創業者は、AI の第一人者になる前は「トラブルメーカー」だった

OpenAI の諸刃の剣

ユーザーが話者の言語を変更できる OpenAI の Voice Engine は、印象的な音声クリップと多言語翻訳能力で賞賛されています。しかし、合成音声の悪用可能性から、同社は広範な公開に慎重なアプローチを取っています。2022 年末に ChatGPT を一般公開した OpenAI は巨大な存在となり、その普及は新たな乱用を引き起こす可能性があります。

OpenAI は合成音声の責任ある展開と社会の適応方法について議論することを目指しています。最近の事件では、スティーブ・クレイマーがジョー・バイデン大統領の声をクローンし、ニューハンプシャー州予備選で投票しないよう呼びかける音声メッセージを作成しました。OpenAI は、少人数のテストや対話に基づいて情報に基づいた決定を下し、技術の可能性についてより深い理解を得ることを計画しています。

暗号資産詐欺の最新手口では、Fiverr で雇った実在の役者にスクリプトを読ませ、詐欺を本物らしく見せかけています。これは詐欺に AI 生成の偽音声を使用する潜在的な危険性を浮き彫りにしており、詐欺師は常に新たなツールを悪用して人々から金を巻き上げようとするのです。