米国と英国が AI 安全性テストで歴史的合意

「米国と英国の AI 安全性テストに関する歴史的合意」は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性に関連しているため、BTW メディアによってプロファイルされています。

• 米国と英国は、AI システムの評価のための安全性試験を共同開発することを目的とした先駆的な二国間協定を締結しました。
• ジーナ・レモンド米商務長官とミシェル・ドネラン英技術担当閣外相が署名した覚書は、AI モデルのリスクと安全対策に関する情報や技術的知識の交換を促進します。
• 両国の専任 AI 安全研究所は、この協定の下で協力し、安全性試験の基準とガイドラインを策定します。これは国家安全保障上の懸念や、AI がもたらすより広範な社会的影響に対処することを目的としています。

米国と英国は、AI システムの安全性を評価するためのテストを共同で開発することに合意し、前例のない二国間協定を画しました。

AI 安全性テスト強化のための二国間協定

ジーナ・レモンド米商務長官とミシェル・ドネラン英技術担当閣外相は、AI モデルに伴うリスクと安全対策に関する情報や技術的専門知識の交換を促進する覚書に署名しました。

関連記事：Microsoft の安全性システムが AI アプリの幻覚を検出

この発表は、米国連邦機関に対して AI の責任ある使用に関する新たな要件が導入されたことを受けたものです。

この合意の下、両国の専任 AI 安全研究所は、安全性試験の基準を策定するために協力します。

レモンド長官は次のように強調しました。「このパートナーシップは、国家安全保障から社会全体に至るまでの広範なリスクに対し、私たち各研究所の取り組みを加速するでしょう。私たちの協力は、こうした懸念を避けるのではなく、真正面から取り組む決意を示しています。」

昨年の AI 安全サミットを受け、米国と英国は、AI リスクを評価するためのガイドラインと基準を策定する AI 安全研究所を設立しました。

米国 AI 安全研究所（U.S. AISI）の研究者は、英国の同機関と協力し、AI 安全性テストへの統一的なアプローチを開発します。

一般公開されているモデルを対象に共同テスト演習が実施されると発表されましたが、これらの活動の具体的な日程は明らかにされていません。

米英協力の主要ポイント

ミシェル・ドネラン英技術担当閣外相によると、この合意は「私たちの世代を決定づける技術的課題」に取り組むために両国間の結束を強化する重要なモデルを示しています。

ドネラン閣外相は次のように述べました。「私たちは常に、AI の安全な開発を確保することが世界共通の関心事であると強調してきました。この技術に関連するリスクに直接対処し、私たちの生活を向上させるその計り知れない可能性を活用できるのは、協力的な努力によってのみです。」

これらのテストは米英の AI パートナーシップの直接的な成果であり、ベンチャーキャピタルファンド OpenOcean のゼネラルパートナー、エカテリーナ・アルマスク氏が指摘するように、スタートアップに貴重な支援を提供する可能性があります。

アルマスク氏は次のように述べました。「AI 分野のスタートアップは、倫理的な学習データを妥当なコストで調達するなど、安全性と倫理の複雑な状況に対処するのにしばしば苦労しており、それがイノベーション、スケール、競争力のある製品の開発能力を妨げる可能性があります。この協力は、こうした障害を克服するための枠組みを提供し、スタートアップが責任を持って安全に AI 技術を開発できるよう、ガイダンスとサポートを提供します。」