• この種の初の合意は、両社が AI 技術の安全かつ倫理的な利用をめぐり規制当局の審査を受けている中で成立した。
  • 米国商務省の国立標準技術研究所（NIST）の一部である同研究所は、英国 AI 安全研究所とも協力し、安全性の改善の可能性について各社にフィードバックを提供する。

当社の見解
AI スタートアップの OpenAI と Anthropic は、AI モデルの研究、テスト、評価のため米国政府と協定を締結した。これは、AI が直面する潜在的に壊滅的なリスクを低減するため、規制チャネルを通じて安全リスクを共同評価し、潜在的な問題を緩和することを目的とした動きだ。
— BTW 記者 Iydia Ding

何が起こったか

カリフォルニア州議会は、人工知能の州内での開発・展開方法を広範に規制する法案について、今週中にも採決を行う。AI 安全研究所は木曜日、AI スタートアップのOpenAIとAnthropicが、人工知能モデルの研究、テスト、評価を実施するため米国政府と協定を締結したと発表した。協定に基づき、AI 安全研究所は OpenAI と Anthropic の主要新モデルに、一般公開前後の両方でアクセスできるようになる。この協定により、AI モデルの能力とそれに伴うリスクを評価するための共同研究も可能になる。

「当研究所が米国のリーダーシップを確立する上で重要な役割を果たすと信じている。責任を持って AI を開発し、我々の協力が世界の他の国々が依拠できる枠組みを提供することを期待する」と、ChatGPT の開発元 OpenAI の最高戦略責任者 Jason Kwon は述べた。

あわせて読みたい:百度のアップグレード AI モデル、ユーザー数 3 億人を突破

あわせて読みたい:Character.AI、新たな通話機能を導入

なぜ重要か

この種の初の合意は、両社が AI 技術の安全かつ倫理的な利用をめぐり規制当局の審査を受けている中で成立した。

「これらの協定は始まりに過ぎないが、AI の未来を責任を持って管理するために取り組む中で、重要な一歩だ」と米国 AI 安全研究所の Elizabeth Kelly 所長は述べた。同研究所は米国商務省の国立標準技術研究所（NIST）の一部であり、英国 AI 安全研究所とも協力し、安全性の改善の可能性について各社にフィードバックを提供する。

米国 AI 安全研究所は、AI モデルの既知および新たに出現するリスクを評価するため、昨年ジョー・バイデン政権の大統領令に基づき設立された。この協力モデルは、規制当局が AI 技術の発展をより良く理解するのに役立ち、より適応性が高く効果的な政策と規制を策定できるようになる。