• OpenAI は、倫理的配慮と悪用リスクに対処するため、音声合成 AI「Voice Engine」の大規模リリースを延期している。
  • この技術は読書支援やグローバルな展開を約束するが、なりすましやセキュリティ上の欠陥のリスクがある。
  • OpenAI は、同意要件や AI 生成音声の開示を含む、Voice Engine の利用に関する厳格な条件を設けている。

OpenAI は Voice Engine を発表。短い音声サンプルから人間の声を再現できる AI モデルだが、悪用の可能性に関する倫理的・社会的懸念から全面的なリリースを延期している。

Voice Engine の可能性

音声合成の進化は目覚ましく、特に 1978 年に革新的な電子音声で人々を魅了した「Speak & Spell」という玩具と比較すると顕著です。現在、深層学習を用いた AI モデルは、リアルな音声を生成するだけでなく、短い音声サンプルから既存の声を驚くほど正確に模倣することができます。

関連記事：OpenAI の GPT Store は期待に応えられず

このような背景の中、OpenAI による最近の Voice Engine の発表は大きな進歩です。この AI モデルは短い音声録音から合成音声を作成でき、同社はその例をウェブサイトで公開しました。ユーザーがテキストを入力すると、Voice Engine がそれを AI 生成音声に変換します。しかし、OpenAI は当初今月に開発者向けパイロットプログラムを計画していましたが、この技術を大規模に展開しないことを決定しました。倫理的側面を熟考した結果、同社は当面の間、その野心を抑えることを選択しました。

OpenAI は次のように述べています。「AI の安全性への取り組みと自発的なガイドラインに従い、現時点ではこの技術を広く公開せずに紹介することを選択しました。Voice Engine のこのプレビューがその可能性を示すと同時に、ますます説得力が増す生成モデルがもたらす課題に対する社会的防御を強化する重要性を強調することを期待しています。」

関連記事：OpenAI、チャットボット訓練のため報道パートナーとのメディア提携を拡大

音声クローン技術は新しいものではありません。2022 年以降、多くの AI 音声合成モデルが存在し、OpenVoice や XTTSv2 などのオープンソースコミュニティで広く普及しています。しかし、OpenAI が自社の音声技術を広く利用可能にする可能性は重要であり、同社がそれを躊躇していることこそがおそらく最も顕著な問題です。

OpenAI の音声技術の潜在的な利点は多岐にわたります。自然な音声による読書支援、ネイティブアクセントを保持したグローバルコンテンツの作成、言葉を話せない人向けのカスタマイズされた発話オプション、発話を損なう病状の後に患者が声を取り戻す支援などです。

倫理的およびセキュリティ上の影響

それでも、わずか 15 秒の録音で誰でも声をクローンできる可能性は、悪用に関する懸念を引き起こします。Voice Engine の全面的な公開がなくても、音声クローンはすでに、家族の声を真似た電話詐欺や、Joe Biden などの政治家のクローン音声を使用した自動電話といった問題を引き起こしています。

さらに、研究者やジャーナリストは、音声クローン技術が音声認証を使用する銀行口座を危険にさらす可能性があることを実証しており、このことが、米国上院銀行・住宅・都市問題委員会の委員長であるオハイオ州選出の Sherrod Brown 上院議員をして、大手銀行が AI 関連の脅威に対抗するために導入しているセキュリティ対策について問い合わせるに至りました。

広範な公開の潜在的リスクを認識し、OpenAI はこれらの問題を軽減するための一連のルールを実施しています。同社は昨年から、HeyGen などの選ばれたパートナーとテストを行っており、HeyGen はこのモデルを使用して、元の音声特性を保持したまま話者の声を他の言語に翻訳しています。

パートナーシップと予防措置

Voice Engine を使用するために、パートナーは「同意または法的権利なしに個人や組織になりすますこと」を禁止する条件に従わなければなりません。また、声を再現される人々から十分な説明に基づく同意を得る必要があり、生成された音声が AI によって作成されたことを明確に示さなければなりません。OpenAI はまた、モデルによって生成された音声の追跡を容易にするために、各音声サンプルに透かしを埋め込んでいます。

当面、OpenAI は大規模な公開に完全にコミットすることなくこの技術を発表しており、大規模公開は社会的混乱を引き起こす可能性があります。代わりに、同社はマーケティング戦略を調整し、この新興技術の責任ある管理者としての立場を示そうとしています。