• FCC は水曜日、Joe Biden 大統領の声を模倣する AI を使用して自動音声通話を送信した通信会社が 100 万ドルの罰金を支払うと発表した。
  • Lingo Telecom は 1 月の New Hampshire 州予備選挙を前に、大統領のクローン音声を使って投票しないよう呼びかける自動音声通話で有権者を標的にした。

見解
FCC は、AI 生成メッセージを含む偽の自動音声通話を送信した役割について Lingo Telecom に責任を問うことで、選挙干渉や偽造技術は許容されないという強いメッセージを発しています。この事例を受け、同様のサービスを提供する企業は自社技術の悪用を防ぐために警戒する必要があります。
— BTW 記者 Iydia Ding

何が起こったか

Lingo Telecomは 1 月の Granite State 予備選挙を前に、大統領のクローン音声を使って投票しないよう呼びかける自動音声通話でNew Hampshire州の有権者を標的にした。これに対し、連邦通信委員会（FCC）は水曜日、AI を使用して Biden 大統領の声を模倣し自動音声通話を送信した通信会社が 100 万ドルの罰金を支払うと発表した。罰金に加えて、音声サービスプロバイダーは FCC の発表によれば、発信者 ID 認証フレームワークへの「厳格な遵守」を求めるコンプライアンスプログラムの実施に同意した。

Steve Kramer 氏（民主党のベテランで、これらの自動音声通話を組織化したことを認めている）は、FCC が提案する別途 600 万ドルの罰金に直面している。また、New Hampshire 州で投票妨害と候補者なりすましの罪で、重罪と軽罪合わせて 26 件の容疑で起訴されている。

New Hampshire 州司法長官の John Formella 氏は声明で、次のように述べた。「この合意は、選挙の公正さにとって、特に New Hampshire 州とその標的となった有権者にとって、重要な勝利です。」

こちらもお読みください：Congo Telecom、警察学校生にサイバーセキュリティ研修を実施

こちらもお読みください：Awal Telecom & Technology：リビアのインターネットプロバイダーの一つ

重要性

FCC が、AI 生成メッセージを含む欺瞞的な自動音声通話の送信におけるその役割について Lingo Telecom の責任を追及することで、選挙干渉や欺瞞的技術は許容されないという強いメッセージを発している。

近年の AI の急速な発展の中で、大規模言語モデルの開発者を対象とした AI 関連の訴訟が増加している。これらすべてのケースに共通するのは、テクノロジー企業が実在の人物を模倣するよう AI チャットボットを訓練し、悪意ある目的で会話をさせるという技術の使用だ。一部のテクノロジー企業は、AI モデルの訓練は、著作権で保護された素材の限定的な使用を認める米国法のフェアユース（公正使用）の原則に準拠していると主張している。

これは、人工知能の開発を規制するための成熟した完璧なシステムや規制が存在しないことを示唆している。AI プログラムが使用する素材や経路について、まだ明確な制限がなく、それが時としてこのような事件を引き起こしている。この点に関して、当局はできるだけ早く介入すべきだ。