• 米国商務省は、サイバーセキュリティを確保するため、AI 開発者とクラウド事業者に対して新たな報告要件を提案した。
  • この規則では、AI モデルの開発、サイバーセキュリティ対策、レッドチーミングの結果について報告することが義務付けられ、サイバー攻撃の支援や大量破壊兵器開発の障壁低下といったリスクの検出を目指す。

当社の見解
この決定は、AI の影響に対する高まる懸念と厳格な監視の必要性を反映している。詳細な報告を義務付けることで、米国政府は、サイバー攻撃や危険な技術への悪用など、高度な AI に関連するリスクを軽減する取り組みを強化している。この積極的なアプローチは、イノベーションの促進と潜在的脅威からの保護のバランスを強調し、AI 開発を安全かつ管理下に置くことを目指している。
-BTW Media 記者 Tacy Ding

何が起きたか

高度な人工知能の開発者とクラウドコンピューティングの提供者がこれらの技術の安全性とサイバー攻撃への耐性を確保することを目的とした詳細な報告要件の提案が、月曜日に米国商務省によって発表された。

同省のBureau of Industry and Securityによるこの提案は、「最先端」の AI モデルと計算クラスターの開発活動について連邦政府への報告を義務付けるものだ。

また、サイバーセキュリティ対策のほか、いわゆる「レッドチーミング」の取り組み結果についても報告が求められる。これには、サイバー攻撃の支援や、化学兵器、生物兵器、放射性兵器、核兵器の開発における非専門家の障壁を低下させる可能性などの危険な能力のテストが含まれる。

外部によるレッドチーミングは、新たなリスクを特定するためにサイバーセキュリティ分野で長年使用されてきた。この用語は、米国の冷戦時代のシミュレーションに由来し、敵対者が「レッドチーム」と呼ばれたことにちなむ。

関連記事：司法省、Google の AI 計画を監視し検索独占に対抗

関連記事：米国、国際パートナーと共に先端技術への新たな規制を実施

なぜ重要か

オープンなプロンプトに応じてテキスト、画像、動画を生成できる生成 AI は、熱狂と懸念の両方を引き起こしている。一部の仕事を陳腐化させ、選挙を混乱させ、人間を凌駕して壊滅的な結果をもたらす可能性が懸念されている。

商務省は、この提案を通じて収集される情報が、「これらの技術が厳格な安全性と信頼性の基準を満たし、サイバー攻撃に耐え、外国の敵対者や非国家主体による悪用のリスクを最小限に抑えることを確実にするために不可欠である」と述べた。

2023 年 10 月、Joe Biden大統領は、国家安全保障、経済、公衆衛生、または米国の安全にリスクをもたらす AI システムの開発者に対し、それらのシステムが公開される前に、安全性テストの結果を米国政府と共有することを義務付ける大統領令に署名した。

この規則は、高度な人工知能（AI）モデルと計算クラスターに対する報告要件を導入するだろう。