今回は Taylor Swift の不運

「This time it’s Taylor Swift’s bad luck」は、公開された証拠がインターネットインフラストラクチャ、ガバナンス、運用上の依存関係、または市場の可視性に関連しているため、BTW Media によってプロファイルされています。

Elon Musk は再び残業を強いられるだろう。そして、セレブのプライバシーをめぐってソーシャルメディアのプラットフォームは再び騒がしくなるだろう。AI 技術の侵害はいつ終わるのか？ 「AI 顔交換」技術の登場以来、「顔交換」事件が発生し、多くのスターが商業プロモーションのために「AI 顔交換」の被害に遭ってきた。さらに、スターや有名人、一般人の肖像が、ポルノ、暴力、醜悪な要素を含む写真や動画に置き換えられ、拡散・販売されるなどして、世間が当該の写真や動画を本物と誤認し、「顔交換」された人物の社会的評価を低下させ、名誉権を侵害する恐れがある。「AI 顔交換」の物語は、Taylor Swift に関する偽情報である。

最新の被害者

ディープフェイクの最新の被害者が現れた– 世界的スーパースターでトップストリーマーの Taylor Swift。
数時間のうちに、X、Facebook、その他のソーシャルメディアプラットフォームは、数千万人が視聴した偽の「不適切な写真」で溢れかえった。この事件について知らされた Taylor Swift は怒りを表明し、ファンは自発的に保護活動を組織した。
X では、怒ったファンの中には直接@Musk に呼びかけ、これはあなたが対処すべきことだと叫んだ。この事件は、Taylor Swift の新しい恋人である NFL 選手 Travis Kelce が Kansas City Chiefs でプレーし、交際が明らかになった後、Taylor がチームの試合の常連となったことがきっかけだった。スタジアムを背景に、Taylor と架空の「選手」たちの露骨な写真を生成するために AI が使用された。
画像がどのように拡散したかについては様々な噂があり、最初に暗号化されたチャットグループに登場したという説もある。一部の報道では、ディープフェイク写真は最初に、有名セレブの不適切な写真で溢れた不愉快なウェブサイトに投稿されたと主張している。
Taylor 以外にも、このサイトには、Barbie を演じる Magrot Robbie を含む数百人の他のセレブが掲載されていた。

絶え間ない危機

これまでのところ、写真の拡散に関与した一部のアカウントは主要プラットフォームによって禁止されたが、依然として多くの流出が存在する。
Facebook の親会社 Meta の広報担当者は、「このコンテンツは当社のポリシーに違反しており、プラットフォームから削除し、投稿したアカウントに対して措置を講じている」と述べた。
26 日のホワイトハウスでの記者会見で質問を受けた Jean-Pierre 報道官は、「我々はこの種の画像の流通、より具体的には偽の画像について懸念している」と述べた。
「ソーシャルメディア企業はコンテンツ管理に関して独自の決定を下すことができるが、誤情報や本人の同意なく実在の人物のプライベート画像が拡散するのを防ぐために、自らのルールを執行する上で重要な役割があると考える」と Jean-Pierre 氏は述べた。また、インターネット上の緩い執行は、オンライン上の嫌がらせや脅迫の主な標的である女性に大きな影響を与えると付け加えた。
Jean-Pierre 氏によると、これは新しい問題ではなく、Biden 政権と Harris 氏は就任初日から優先事項としてきたものであり、「我々はこれを非常に深刻に受け止めている。改めて、これは憂慮すべきことだ」と述べた。
Taylor Swift が AI によって被害を受けたのは今回が初めてではない。1 月初旬、AI が生成した Taylor Swift の偽のプレゼントキャンペーンの広告が Facebook で拡散した。

こちらもお読みください:AI ツール「Nightshade」がデジタルアート作品を「汚染」し、アーティストの知的財産権侵害との闘いを支援

“皆さん、こんにちは。私は Taylor Swift です。梱包ミスにより、Le Creuset の調理器具 3,000 セットがオフラインで適切に販売できず、オンライン販売に切り替えられました。皆さんに良いお知らせがあります。私が Le Creuset とコラボレーションし、忠実なファン 20 名に調理器具セットを無料でプレゼントします。”
実際のところ、動画の「Mildew」は実際の Swift ではなく、彼女の声を合成し、画像と Le Creuset の広告のクリップを組み合わせた AI の「ディープフェイク」技術によるものだ。同社はすぐに反応し、Swift は消費者の抽選に関与しておらず、製品のプロモーションはすべて公式のソーシャルメディアキャンペーンからのものだと述べた。

こちらもお読みください:犯罪者が AI 顔アプリを悪用してユーザーを詐欺した方法：中国の事例研究がリスクを明らかに

AI ディープフェイクとは

AI ディープフェイク技術が再び注目を集めている。ディープフェイク（Deepfake）は、英語の「Deep learning（深層学習）」と「Fake（偽物）」を組み合わせた言葉で、深層学習技術を使って合成画像、音声、または動画を生成することを指す。
バッファロー大学のメディア法科学研究所のコンピューターサイエンス教授である Siwei Lyu 氏は、「ディープフェイク」詐欺はおそらくテキスト読み上げサービスを使って作成されたと述べた。このようなツールは、台本を音声に変換し、リップシンクプログラムを使って動画クリップに合成する。