AI の「忘却」技術が効率に与える影響

「AI の「忘却」技術が効率に与える影響」は、公開された証拠がインターネット基盤、ガバナンス、運用上の依存関係、または市場での可視性に結びついているため、BTW Media がプロファイリングしている。

• 新しい研究によると、AI モデルに特定の不要なデータを忘れさせる一般的な「忘却」技術が、モデルのパフォーマンスを大幅に低下させ、時には使用不能にすることもあることが示された。
• 研究者らは、モデルの実用性を大幅に損なうことなく、特定のデータを忘れさせる効果的な「忘却」手法は現在存在しないと指摘している。

当社の見解
AI モデル向けの「忘却」技術は、学習データから得た特定の不要な情報（機密の個人データや著作権で保護された素材など）をモデルに忘れさせるように設計されている。本研究では、現在の「忘却」技術が基本的な質問に答える能力を損ない、モデルのパフォーマンス低下を招く可能性があることが明らかになった。研究者らは、モデルの実用性を大幅に損なうことなく特定のデータを忘れさせる効果的な「忘却」手法は現在存在しないと結論付けている。
- Rae Li, BTW ジャーナリスト

何が起きたか

「忘却」技術は、AI モデルが学習データから得た特定の不要な情報（機密の個人データや著作権で保護された素材など）を忘れることを可能にする。研究者らは、これらの技術がモデルに特定の情報を忘れさせることができる一方で、特に基本的な質問に答える能力など、モデルのパフォーマンスに悪影響を与える可能性もあることを発見した。この研究では、MUSE と呼ばれるベンチマークテストを用いてさまざまなアルゴリズムの「忘却」効果を評価しており、これらの技術がモデルに特定の情報を忘れさせたとしても、モデル全体の実用性が低下することが確認された。

ワシントン大学、プリンストン大学、シカゴ大学、南カリフォルニア大学、およびGoogleの研究者らが行ったこの研究では、公開されている 8 つの異なるアルゴリズムをテストし、これらの「忘却」技術がモデルに「ハリー・ポッター」の書籍のような特定のデータを忘れさせる一方で、モデルによる関連知識の獲得にも同時に影響を与えることを発見した。研究者らは、効果的な忘却手法を設計することが難しい理由として、知識がモデル内で絡み合っていることを指摘している。例えば、あるモデルが「ハリー・ポッター」の書籍と、無料のハリー・ポッターWiki のコンテンツの両方を学習している場合、書籍を削除しようとすると、モデルが持つハリー・ポッターWiki の知識にも影響が及ぶ。研究者らは、この問題に対する解決策はまだ見つかっておらず、さらなる研究が必要であると述べている。

関連記事：サーバールームの用途と主要サプライヤーについて

関連記事：HP のアクセシブルな AI ソリューションにおけるブレイクスルー

なぜ重要か

AI 技術の普及に伴い、学習データ内の機密情報をどのように扱い管理するかが極めて重要になっている。「忘却」技術は、AI モデルが学習データから特定の情報を削除または忘却できるように設計されており、これはプライバシー保護、著作権法の遵守、データ削除要求への対応において重要である。

しかし、この研究は、既存の「忘却」技術が AI モデルに不要な情報を忘れさせることは可能でも、特に基本的な質問に答える能力など、モデルのパフォーマンスに悪影響を及ぼす可能性があることを示唆している。これは、「忘却」技術が理論的には魅力的であるものの、AI モデルの信頼性と実用性に影響を及ぼす予期せぬ結果を招く可能性があることを意味している。したがって、このメッセージの重要性は、AI システムが効果的かつ正確であり続けるために、「忘却」技術の開発と実装におけるさらなる研究と革新が必要であることを強調している点にある。