• ボルチモア郡の高校教師が、校長が汚職調査を進める中、悪意を持って AI による噂を流布した。
  • 教師は AI 音声クローン技術を利用したが、これは犯罪の急増を表している。実際、数十秒の短い音声ファイルを学習させるだけで、誰かの声を完璧に再現できるのだ。

AI を使って偽の校長音声を生成・拡散した体育教師が驚きの逮捕。しかし、彼に対する容疑はディープフェイクではなく、学校運営妨害、報復、嫌がらせ、窃盗などの罪だ。

噂を流布する

教師は、勤務先の校長 Eric Eiswert に関する AI 音声を作成し、ソーシャルメディアで拡散した。ディープフェイク音声には、人種差別的かつ反ユダヤ的な内容が含まれていた。音声は「恩知らずの黒人の子供たち」で始まり、特定の教師に言及し、「彼らは解雇されるべきだ」と述べていた。

警察は起訴状で、教師が生成した AI 音声が地域社会に重大な悪影響を与えたと記した。校長は一時的に学校から外されただけでなく、ソーシャルメディア上でヘイトメッセージを受け取り、学校にも多数の電話があったと説明した。

あわせて読みたい：みんなが使っている AI 音声ジェネレーターはどれ？

AI ディープボイスについて

ディープボイス（deep voice）は、ディープラーニング（深層学習）と音声を組み合わせたもので、AI が特定の人の声を学習し再現する技術を指す。ディープボイス技術を利用するには、AI が学習に使用する「サンプル」が必要だ。しかし、サンプルの準備方法はあまりにも簡単である。ターゲットの声を録音した 30 秒の音声ファイルがあれば十分なのだ。

あわせて読みたい：OpenAI の音声クローンツール、わずか 15 秒のサンプルで声を模倣

AI はファイル内の音声の高さや音量を模倣することで感情までも再現するため、完成度は非常に高い。
AI ディープボイス技術は犯罪にも広く利用されているため、ディープボイスを使ったフィッシングにも注意が必要だ。