OpenAI、15 秒の音声で声を複製する「Voice Engine」を発表

「OpenAI voice-clone tool mimics your voice with 15-second sample」は、公開された証拠がインターネットインフラストラクチャ、ガバナンス、運用依存関係、または市場の可視性に関連しているため、BTW Media によってプロファイリングされています。

• OpenAI のブログ記事によると、「Voice Engine」と呼ばれるモデルは、15 秒の音声サンプルから他人の声を実質的に複製することができる。同記事は、このツールの小規模テストの結果を共有している。
• 「これらの小規模展開は、私たちのアプローチや安全策、そしてさまざまな分野で Voice Engine が有益に使用される方法についての考え方を洗練させるのに役立ちます」と OpenAI はブログ記事で述べている。
• 同社のツールは、聴衆を欺く偽の音声に対抗する保護策が整うまで、厳格に管理される。

OpenAI は、15 秒の音声の抜粋から合成音声を作成する、Voice Engine と呼ばれるテキスト音声生成プラットフォームを開発しました。

音声クローンツール

人工知能によって生成された音声は、話者と同じ言語で、または他の複数の言語で、テキストによる指示に従って読み上げることができます。

「これらの小規模展開は、私たちのアプローチや安全策、そしてさまざまな分野で Voice Engine が有益に使用される方法についての考え方を洗練させるのに役立ちます」と OpenAI はブログ記事で述べている。

OpenAI が公開したこれらのサンプルでは、あらかじめ書かれたナレーションコンテンツと、GPT-4 用に書かれた「リアルタイムのパーソナライズされた応答」を聞くことができます。

OpenAI は 2022 年末に音声エンジンの開発を開始し、この技術はすでにテキスト読み上げ API や ChatGPT の読み上げ機能用に事前定義された音声を提供していると述べています。

関連記事:OpenAI、チャットボット訓練のため報道機関とのメディア提携を拡大

セキュリティ上の懸念

OpenAI は、政府、メディア、エンターテインメント、教育、市民社会など、米国および国際的なパートナーと協力し、構築を進める中で彼らのフィードバックを取り入れていると述べています。

誤情報の研究者たちは、安価で使いやすく追跡が困難な音声クローンツールの普及により、重要な選挙の年に AI 搭載アプリケーションが広範に悪用されることを懸念しています。

OpenAI はこれらの問題を認識しており、「合成音声の悪用の可能性があるため、より広範な提供に向けて慎重かつ十分な情報に基づいたアプローチを取っている」と述べています。

数ヶ月前、ジョー・バイデンの民主党のライバル候補の選挙キャンペーンに携わっていた政治コンサルタントが、米国大統領を模倣した自動音声通話の発信元であることを認めました。

この事件は、2024 年のホワイトハウス争奪戦や今年世界中で行われる他の重要な選挙において、AI によるディープフェイクの誤情報が氾濫するのではないかと懸念する専門家たちに警鐘を鳴らしました。

「我々は、Voice Engine によって生成された音声の出所を追跡するための透かしや、その使用の積極的な監視を含む、一連の安全対策を導入しています」と OpenAI は述べた。