• 連邦当局は、この和解が政治家などを装う AI 生成画像の不正使用を抑止することを期待している。
  • 通信会社は、ニューハンプシャー州の民主党予備選挙前にジョー・バイデン大統領の声を模倣したディープフェイクロボコールに関与したとして、100 万ドルの罰金を支払うことに同意したと連邦当局が水曜日に発表した。

我々の見解
この決定がバイデン氏に一定の圧力をかけたことは疑いないが、AI の台頭が総選挙に何を意味するかはまだわかっていない。政治家を援助するために AI を使うこと。選挙行為そのものは非難されるべきではないが、AI 技術の悪用は最終的に将来に隠れた危険をもたらすだろう。関係当局はこの事件を皮切りに、AI の利用を規制すべきだ。
— Iydia Ding, BTW 記者

経緯

Lingo Telecom（通信会社）は、ニューハンプシャー州の民主党予備選前にジョー・バイデン大統領の声を模したディープフェイクロボコールに関与したとして 100 万ドルの罰金を支払うことに同意したと、連邦当局が水曜日に発表した。このロボットは AI 生成のバイデン氏の声のシミュレーションを使用して、ニューハンプシャー州の有権者に対し、1 月の民主党予備選で投票しないよう伝えていた。

NBC ニュースが最初に報じたところによると、この電話は長年の政治コンサルタントであるSteve Kramerによって仕組まれたもので、当時彼は対立陣営で活動していたが、Kramer はディープフェイクの危険性を認識させるために行ったと述べている。Kramer と当時の雇用主であるミネソタ州の民主党下院議員 Dean Phillips は、選挙陣営の誰も Kramer を指導しておらず、彼の行動を知らなかったと主張している。

Kramer はまた、ニューハンプシャー州での有権者脅迫と公務員なりすましの疑いで、FCC から 600 万ドルの別個の罰金と 26 件の刑事告訴に直面している。現在保釈中である。

こちらもお読みください:バイデン大統領が有権者に電話？ ニューハンプシャー州予備選を非難する電話が報告される

こちらもお読みください:Congo Telecom が警察の士官候補生にサイバーセキュリティ対策を教育

なぜ重要か

音声サービスプロバイダーである Lingo Telecom は、「なりすまし」の電話番号を使用して AI 生成の自動音声通話を配信した。同社は 7 桁の罰金を支払い、より厳格な監視プロトコルに同意する。連邦当局はこれを、悪質なディープフェイクや AI によるなりすましに対する初の取り締まり措置と位置付けている。

「有権者への脅迫は、対面であれ、ディープフェイクの自動音声通話やオンラインでの偽情報キャンペーン、その他の AI を駆使した戦術によるものであれ、民主主義において意思表明を求める有権者にとって真の障壁となり得る」と、司法省公民権局長のクリステン・クラーク氏は声明で述べた。

バイデン氏になりすましたロボコールは、米国の国政におけるディープフェイクの初めての使用事例であり、これが当局が迅速かつ積極的に行動し、政治的なディープフェイクを阻止した理由だとしている。政治的なディープフェイクは他の数カ国でますます蔓延している。

「Lingo Telecom に、AI 生成メッセージを含むなりすましのロボコールを送信した役割の責任を負わせることで、FCC は選挙干渉やなりすまし技術を容認しないという強いメッセージを発している」と、ニューハンプシャー州の司法長官ジョン・フォーメラ氏は声明で述べた。