テイラー・スウィフトの AI 画像は「衝撃的で恐ろしい」とサティア・ナデラが語る

「テイラー・スウィフトの AI 画像は衝撃的で恐ろしい」とサティア・ナデラが語る、というエンティティは、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性に結びついているため、BTW メディアによってプロファイルされています。

• マイクロソフトの CEO、サティア・ナデラは、ポップスターのテイラー・スウィフトの偽画像がオンラインに登場したことを受け、迅速な対応の緊急性を強調した。
• AI 生成ツールがいかに簡単に操作されるかを考えると、この報告書はそのような制限を適用する際に内在する課題を浮き彫りにしている。
• 偽の写真を作成するのに役立つ AI ツールの急増が懸念されており、デジタル世界の新たな課題に対処する包括的な解決策の必要性が強調されている。

AI と「現実への侵害」をめぐる議論が、有名セレブリティの世界に飛び込んできた。つい最近、テイラー・スウィフトがオンラインで共有されたディープフェイク画像の標的にされたのだ。この一件は、生成 AI をめぐる最も議論されている懸念の一つを浮き彫りにした。すなわち、関わるクリエイターや企業は、その悪用を防ぐために十分な対策を講じているのだろうか？

正直な回答

マイクロソフトの CEO、サティア・ナデラは、テイラー・スウィフトの露骨な AI 画像の出現に対する懸念に応えた。NBC ナイトリーニュースとのインタビューで、ナデラは同意のないシミュレートされたヌードの増加を「衝撃的で恐ろしい」と表現し、迅速な対応の緊急性を強調した。

来週火曜日に放送予定のインタビューで、ナデラはインタビュアーのレスター・ホルトが、インターネット上にテイラー・スウィフトの偽のポルノ表現が溢れている事実を指摘した際、状況の深刻さを認めた。ナデラの回答は、技術政策の問題の複雑さに触れ、そのようなインシデントを軽減するための強力な安全策の必要性を強調した。

私は 2 つのことを申し上げたい。第一に、私たちの責任であると考えていることに立ち返ります。それは、より安全なコンテンツが生成されるように、テクノロジーの周りに設置しなければならないすべての安全柵です。そして、やるべきことは多く、すでに多くのことが行われています。しかし、これは世界的、社会的な、いわば特定の規範への収束なのです。そして、特に法律、法執行機関、テクノロジープラットフォームが団結できるとき、私たちは考えている以上に多くのことを統制できると思います。私たちは自分たちを過小評価しているのです。

サティア・ナデラ、マイクロソフト CEO

ナデラは、マイクロソフトが技術分野でより安全なコンテンツ作成を保証するために必要な措置を講じることを約束していると強調した。彼は、世界的な社会規範を確立し、法執行機関と協力し、テクノロジープラットフォームを利用してオンラインコンテンツを効果的に管理することの重要性を訴えた。

マイクロソフトがこれらのスウィフトの偽画像の拡散に関与した可能性を示す兆候があるものの、404 Media の報道によると、画像は同意のないポルノを作成するテレグラムベースのコミュニティから発生したとされています。このコミュニティは、マイクロソフトのデザイナー画像生成ツールの使用を提案していたとされ、著名人の画像生成を禁止していると考えられていますが、AI 生成ツールの操作がいかに容易かを考えると、報告書はそのような制限の実施に内在する課題を浮き彫りにしています。

これらの進展はマイクロソフトが修正すべき技術的な欠陥を浮き彫りにしているが、同時に、偽のヌード写真の作成を助ける人工知能ツールの急増に対するより広範な懸念も反映している。この傾向は活発な議論を引き起こし、デジタル世界の新たな課題に取り組むための包括的な解決策の必要性を浮き彫りにした。

関連記事: AI ツール Nightshade がデジタルアートを「毒化」し、アーティストの知的財産侵害との戦いを支援

小さなコミュニティ、大きな力

マイクロソフトがスウィフトの偽画像に関与している可能性があると言う人もいた。404 Media の報道によると、画像はテレグラムを拠点とする同意のないポルノ制作コミュニティから発生しており、彼らはマイクロソフトのデザイナー画像生成ツールの使用を推奨している。理論上、デザイナーは有名人の画像生成を拒否するが、AI 生成ツールは簡単に騙すことができ、404 はプロンプトを調整することでルールを破ることができることを発見した。これはデザイナーがスウィフトの画像を作成するために使用されたことを証明するものではないが、マイクロソフトが修正できる技術的な欠陥である。しかし、AI ツールは実在の人物のリアルな偽ヌードを作成するプロセスを大幅に簡素化し、スウィフトほど強力でも有名でもない女性たちに混乱をもたらしている。その生成を制御することは、大企業に安全策を強化させるほど簡単ではない。マイクロソフトのような「ビッグテック」の主要プラットフォームがブロックされても、Stable Diffusion のようなオープンツールを再トレーニングして NSFW 画像を作成することができ、それをより困難にしようとする試みにもかかわらず可能である。これらの生成ツールにアクセスできるユーザーははるかに少ないが、スウィフトの事件は小さなコミュニティの活動がいかに広範囲に拡散するかを示している。

ナデラはより広範な社会・政策の変更を漠然と提案しているが、AI を規制するためのいくつかの初期の措置にもかかわらず、マイクロソフトには明確な解決策がない。議員や法執行機関は、同意のない性的画像をどのように扱うべきか苦慮しており、人工知能によって作成された偽物はさらなる複雑さを加えている。一部の議員は問題を解決するために肖像権法の改正を試みているが、提案された解決策はしばしば表現の自由に対する深刻なリスクを伴う。ホワイトハウスはこの問題について「立法措置」を求めたが、それが何を意味するのかについての詳細はほとんど提供されなかった。

しかし、ソーシャルメディアが同意のない画像の拡散範囲を制限したり、スウィフトがそれらを配布する者に対して自警的な正義を課しているように見えるなど、他のその場しのぎの手段もある。しかし今のところ、ナデラの唯一の明確な計画はマイクロソフトの人工知能部門を一掃することである。