EU AI 法：AI の風景をどう変えるのか？

「EU AI 法：AI の風景をどう変えるか？」は、公開された証拠がインターネットインフラ、ガバナンス、運用依存性、または市場での可視性に関連しているため、BTW Media によってプロファイルされています。

• 5 月 13 日、欧州議会はリスクベースの規制に基づき、テクノロジー投資の中核をなすメディア化された人工知能を規制する世界初の主要な規制ルールを承認しました。
• 法律は常に遅れをとるため、このように急速に発展する段階では企業の自主規制と業界の合意が極めて重要です。テクノロジー大手は知見を提供していますが、OpenAI の騒動は企業の自主規律に疑問を投げかけました。
• 世界的な合意、水平的規制と垂直的規制の組み合わせ、そして動的な監督という 3 つのポイントを考慮することで、将来の AI 業界の規制と自主規制のあり方に示唆を与えることができるでしょう。

5 月 13 日、欧州議会は、テクノロジー投資の中心であるメディア化された人工知能を規制する世界初の主要な規制ルールを承認し、世界の AI ガバナンスの状況に強力な規制の力を注入しました。

しかし、グローバルな AI ガバナンスモデルを確立するには、AI 技術へのより深い理解、テクノロジー大手とのより協調的な対話、規制当局の意識の進展も必要です。

AI 法のリスクベース分類

「これは規制当局が要件を決定する際の最適な戦略だと言えるでしょう。なぜなら、規制を他の側面に拡大しようとすると、結局それだけのリスクがないモデル提供者に過度な負担を強いることになるからです。」

Ortal Shimon、Hi-Touch PR のアカウントエグゼクティブ

EU の人工知能法（AI 法）は、EU 内で AI を開発・配布するあらゆる業界の企業、および EU 居住者に影響を与える結果を生み出す AI システムを利用する企業に適用されます。

「AI システム」の定義を含め、EU 内の AI バリューチェーンの複数の関係者が対象となります。AI システムの定義は、「受け取った入力から出力を生成する方法を推論する」機械ベースの自律システム全般を含むように拡大されました。生成 AI の登場により、法律は「汎用 AI モデル」（GPAI）にも適用されます。これは、OpenAI の DALL-E や GPT-4 など、幅広い用途を持つ AI システムの主要な構成要素です。

こちらもお読みください：人工知能法：世界初の AI 法が EU で採択

これに基づき、EU は AI モデルを潜在的リスクに応じて分類・管理する賢明な選択を行いました。これにより、リソースと注意を最も必要な部分に集中させ、よりきめ細かく効果的なリスク管理が可能になります。具体的には、リスクベースのアプローチを採用し、AI システムにリスククラスを割り当て、高リスクシステムには低リスククラスの AI システムよりも厳しい要件を満たすことを求めています。

AI 法は AI システムのリスクレベルを、許容できない、高、限定的、最小限（またはゼロ）の 4 つに定義しており、この明確な分類は、NIST AI RMF や ISO 420001 などの世界的なリスク管理フレームワークに沿ったものです。

この AI システムの明確な分類は、NIST AI RMFやISO 420001などの世界的なリスク管理フレームワークと整合しており、透明性と説明責任を高めています。

永遠の課題：イノベーション対規制

「ベルリンで別の CEO と話したとき、彼は冗談めかして、規制に対応するのにものを作るのと同じくらい時間を費やしていると言っていました。」

Erik Severinghaus、Bloomfilter の創設者兼 CEO

イノベーションと規制のバランスは、AI 法が議題に上がって以来、観察され、議論され、討論されてきた問題です。AI 法の先駆的な 4 段階のリスク分類（人権と安全基準に基づく）は、批評家、AI 業界の実務者、政策・法律の専門家からも意見が寄せられています。

良い面としては、この分類システムは柔軟性を提供し、革新的な開発者が不必要な規制上の制限を受けることなく、よりリスクの低い AI 技術を開発することを可能にします。これにより創造性が促進され、さまざまな分野での AI アプリケーションの進歩が促されます。

AI 法は高リスクの AI システムに焦点を当てており、AI の開発やイノベーションに一定の負担や障壁をもたらします。大企業にとっては、広範なコンプライアンス要件が技術開発や市場拡大の妨げとなる可能性があります。しかし、高いコンプライアンスのハードルは、より多くの企業が AI 分野に参入するのを妨げ、独占の形成につながる恐れもあります。また、一部の中小 AI 企業や研究機関が、対応するコンプライアンスのコストやリスクを負担することが困難になるという問題も生じます。

しかし実際には、イノベーションと規制は相反するものではありません。なぜなら、もう一つ重要な要素であるユーザーが関わっているからです。効果的な規制はアプリケーションの透明性を求めるため、AI とそれを開発する企業に対する国民の信頼を高めることにつながります。これは、技術の広範な受容と日常生活への統合にとって不可欠です。透明性を重視することで、分類システムは AI システムの不透明性に関する懸念に対応し、より大きな説明責任を促進します。これは、AI 技術の長期的な発展にとって害よりも利益をもたらします。

おそらくこれが、批評家たちが AI 法を比較的前向きに捉える傾向がある理由でしょう。AI 法は非常に包括的であり、消費者保護、透明性、説明責任を優先しており、AI 技術への信頼を醸成するために不可欠です。しかし、今後の実施や見直しに関しては、まだ長い道のりがあります。

他国における AI ガバナンスの試み

AI 法は、人権と安全性に基づいて AI リスクを 4 段階に分類することに加え、もう一つ比較的重要な革新がありました。それは、AI の水平的規制のプロセスを開始したことです。これまでの AI 規制は通常、垂直的でした。水平的規制とは、すべてのセクターとアプリケーションに適用される法的ルールであり、あらゆる分野とすべての個人を対象とします。そのため、法案は厳格な規制を重視する一方で、規制の革新にも焦点を当てており、例えば各国が「サンドボックステスト」を実施することを奨励し、中小企業への利便性と支援を強化しています。

欧州連合からの離脱の影響を受けた英国では、法律はイノベーションを促進する一方で、AI が倫理的かつ責任を持って使用されることを保証し、EU の基準に沿った透明性、説明責任、公平性を推進することを目指しています。

英国に新たに設立された AI 安全のための機関である英国 AI 安全研究所は今月、AI モデルの安全性をテストするための「Inspect」と呼ばれるツールセットを公開しました。これは、業界、研究機関、学界による AI 評価の開発を促進することで、AI の安全性を強化することを目的としています。この取り組みは、AI 法のリスク分類要件にも適合しています。

中国はよりトップダウンのアプローチを採用し、監視やデータプライバシーを含め、AI の開発と展開に対してより厳格な管理を課しています。中国政府は「次世代人工知能発展計画」を発表し、国家の優先事項に沿って AI の発展を標準化し導く上で重要な役割を果たしています。

米国は AI 分野で優位に立っており、OpenAI が強力なテキスト動画変換プラットフォーム Sora を発表し、Google が前モデルの 30 倍のクエリを吸収できる次世代 AI モデル Gemini 1.5 を発表しました。米国は AI 規制に対して比較的自由放任的なアプローチをとっており、拘束力のある法律よりも倫理的枠組みやガイドラインに重点を置き、イノベーションの促進と技術的リーダーシップの維持に注力しています。

ジョー・バイデン米大統領は 2023 年 10 月、「最も強力な AI システム」の開発者に対し、国家安全保障上のリスクを理由に、安全テスト結果やその他の重要情報を政府と共有するよう義務付ける大統領令に署名しました。また、米国は最近、AI システムに関連するリスクを管理するために設計された NIST AI RMF を導入しており、これは米国の規制環境において、リスク管理、ガバナンス、AI 技術の倫理的使用の重要性に対する認識が高まっていることを反映しています。

こちらもお読みください：英国政府、画期的な AI 安全サミットに向けて技術専門家と外交官を招集

両国に共通するのは、個人の権利や社会の安定を危険にさらす可能性の高い AI 関連技術（ディープフェイク技術など）から、垂直的に規制を開始するということです。これもまた、潜在的なリスク要因がより高い方向へのガバナンスを対象としています。

クイズ

最近の欧州連合の人工知能規制では、AI システムは潜在的リスクに応じて 4 つのカテゴリに分類されます。それはどれですか？

A. 許容できないリスク

B. 高リスク

C. 限定的リスク

D. 中程度のリスク

E. 最小限（またはゼロ）のリスク

正解は記事の最後にあります。

強固な自主規制はすでに機能してきた

法律は遅れているため、このように急速に発展する段階では、企業の自主規制や業界の文書による合意が極めて重要です。

Google は、高い安全性と公平性の基準を満たす社会的に有益な AI を構築することの重要性を強調する独自の AI 原則を確立しました。Meta も、特にイノベーションとプライバシー、およびコンテンツ配信の公平性のバランスに関する AI システムのガバナンスに関する議論に参加しています。

Microsoft は責任ある AI を提唱し、AI アルゴリズムのバイアスを検出して対抗するツールを開発し、AI システムの透明性を推進してきました。IBM はAI 倫理委員会を通じて全社的な AI 倫理ポリシーを策定しており、人間中心の原則に AI 開発を合わせるために信頼と透明性を重視しています。

しかし、2023 年末の OpenAI の人事交代は、自主規制の有効性についてさらなる疑問を提起しました。同社の CEO であるサム・アルトマンは、アルトマンの行動の慎重さの欠如や AI が社会にもたらす可能性のある危険を懸念した OpenAI の非営利取締役会によって解任されました。

OpenAI がIRSに提出した書類によると、2018 年までに同社は「計画と能力をオープンに共有する」というコミットメントを誇示しなくなり、2021 年までに同社の目標は「デジタル知能を進歩させる」というオープンな研究ミッションではなく、製品の商業化の利益に共鳴する「汎用 AI を構築する」ことに変わりました。

サム・アルトマン自身が率いる支持派は、真の汎用 AI に向けて進歩を続けながら、強力な新技術を迅速に一般公開することを望んでいました。アルトマンは解任直後に Microsoft からオリーブの枝を受け取り、最終的に OpenAI に再雇用されましたが、当初彼を解任したメンバーの何人かは辞任しました。しかしこれは将来の AI 規制当局にとって重要な教訓を提供しています。意味のある自主規制の可能性、特に巧妙な企業形態を通じたものは幻想であるということです。

こちらもお読みください：OpenAI と Microsoft のパートナーシップを探る

社内の権力闘争と、非営利団体の取締役会がますます商業化する企業に対する支配を維持できなかった最終的な失敗は、社会がこの潜在的に歴史的な技術の展開を遅らせたいのであれば、昔ながらの方法、すなわち政府によるトップダウンの規制によって行う必要があるかもしれないことを思い出させてくれます。

展望：技術進歩と後追いガバナンスのギャップをどう埋めるか

「世界の AI 法を探求するのは、複雑なワインを味わうようなものです。各国が独自の風味を加え、時には口に合うか、あるいは苦い後味を残すか予測するのは難しいのです。」

Erik Severinghaus、Bloomfilter の創設者兼 CEO

世界的合意

AI 規制に関する世界的な合意には、長い時間がかかるでしょう。AI 法を例にとると、法律の発表は第一歩に過ぎず、その後の実施にはまだ長い道のりがあります。世界的な AI 規制を構築する方法には、個人、企業、組織、国家の共同の努力が必要です。

一方で、欧州のルールが他国に比べてはるかに厳しい場合、規制が緩い地域では欧州企業の国際競争力が低下する可能性があります。他方で、欧州の規制業界が自主規制と多くの対立を生むと、規制の執行がはるかに難しくなります。

世界的に合意された分類基準の欠如は、規制のアービトラージ（裁定取引）のリスクも生み出します。再び AI 法を例にとると、EU は法律の採択に伴い、EU 加盟国の国内規制当局を含む、執行システムや多層的な監督・実施メカニズムの一式を整備しており、これは EU が個々の国に対して活用できる利点です。

水平・垂直規制の組み合わせ

AI 技術の進化が続くにつれて、将来の法律はさらに動的で適応性の高いものになる必要があり、おそらくリアルタイムのリスク評価やより柔軟な規制メカニズムが組み込まれるでしょう。世界の AI 規制の状況は動的かつ複雑であり、EU の AI 法は世界標準に影響を与え得る重要な一歩です。

各国や組織が導入を目指す包括的で比較的普遍的な水平規制に加えて、特にライフサイエンスや金融サービスなどの特定のセクターに特化した規制も存在するでしょう。

動的監督

AI 技術の急速な発展に直面して、直面する課題は間違いなく膨大です。例えば、AI 法の分類方法に関して、一部の AI システムは初期評価後にリスクレベルが上昇するように進化する可能性があり、その場合、AI モデルが正しく分類され続けるように継続的な監視と再評価が必要になります。

さらに、AI 技術のその後の発展は、政府の規制や企業のガイドラインのいかなる期待をも超える可能性が高く、立法者には高度な技術的見識が求められるだけでなく、関連規制の即時の調整、補足、改訂も必要とされます。

正解は a、b、c、e です。