自分の作品が AI モデルの訓練に使用されることを望まないアーティストたちは、新たな武器を手に入れた。「Nightshade」と呼ばれる「画像毒化」ツールだ。MIT Technology Review のレポートによると、Nightshade はデジタル画像のピクセルを変更し、AI システムを騙して誤った解釈をさせる。

Nightshade は、Université de Chicago の Ben Zhao 教授率いる研究チームによって開発され、以前の製品である Glaze にオプション機能として追加される予定だ。Glaze はデジタルアート作品を隠蔽し、ピクセルを変更して AI モデルによるスタイル認識を妨害するオンラインツールである。

あわせて読みたい：AI 悪用？Disney、「Loki」のポスターをめぐる批判を回避

アーティストとミュージシャンが AI に対して訴訟を起こす

AI による利用に対して知的財産を守るために戦っているのはビジュアルアーティストだけではない。

今週、大手音楽出版社は、AI 企業 Anthropic が人気の大規模言語モデル（LLM）チャットボット Claude の訓練のために、「著作権で保護された大量のコンテンツを無断で取得・使用している」として、痛烈な訴訟を起こした。

多くのアーティストや音楽プロデューサーも、自分たちの作品が AI ツールによって許可なく訓練データとして使用され、競合製品を生み出していることから、長い間 AI に不満を抱いてきた。

人工知能はビッグデータに基づき、アルゴリズムを利用し、特定の文法規則や設計手法に従う。人工知能は「データベース作成」の一形態である。

人間の文学に関する AI データセットは、多数の文学作品に依存している。データ内の記述パターンが多ければ多いほど、学習、模倣、スキル開発が容易になる。

言い換えれば、これらの AI モデルは、アーティストが事前に認識したり、新しい商用 AI 製品の訓練に自分の作品が使われることに異議を唱えたりする機会がないまま、アーティストが作成したテキストや画像を含む膨大なマルチメディアコンテンツにアクセスし、そこから学習する必要がある。

これらの AI モデルの訓練データセットの多くには、ウェブから抽出された素材が含まれている。この行為は、以前は検索結果を提供するために素材をインデックスする目的でアーティストに広く支持されていたが、現在では AI による競合作品の作成を可能にするとして、多くのアーティストが反対している。

Nightshade がアーティストと AI の力関係を再調整する

Nightshade の場合、アーティストの AI への反撃はさらに進んでいる。AI モデルに誤った物体やシーンの名前を学習させるのだ。例えば、研究者はピクセルに情報を注入することで、犬の画像を猫のように見せかけた。

研究者たちは、自分たちの研究が悪意ある目的に利用される可能性を認めている。MIT Tech Review の記事によると、彼らは「これが、アーティストの著作権や知的財産を尊重しない行為に対する強力な抑止力を生み出し、アーティスト側に力の均衡を傾ける助けとなることを期待している」と述べている。

ChatGPT の登場以来、生成 AI は急速な発展期に入ったが、特に訓練データ収集における不公平感をめぐって、反対の声が高まっている。