AI ガバナンスのための階層モデル

「AI ガバナンスの階層モデル」は、公開証拠がインターネットインフラ、ガバナンス、運用依存関係、または市場の可視性にリンクしているため、BTW Media によってプロファイルされています。

• 人工知能（AI）とは、デジタルコンピュータやコンピュータ制御のロボットが、知的生物に通常関連付けられるタスクを実行する能力のことです。
• AI ガバナンスとは、AI や機械学習技術が倫理的かつ責任ある方法で人類に利用されるよう研究開発されることを保証する法的枠組みです。
• AI システムの規模、多様性、複雑さ、技術的自立度の高さから、法律、規制、政策を再評価する必要があります。我々は、AI ガバナンスの複雑さを表現するために 3 層からなる分析モデルを用いています。

人工知能（AI）は、コンピュータや機械が人間の知能や問題解決能力を模倣することを可能にする技術です。技術的な観点から見ると、AI は単一の技術ではなく、音声認識やコンピュータビジョンから注意、記憶に至るまでの幅広い分野におけるテクニックと下位分野の集合体です。

しかし、現象学的な観点では、AI という用語は、高度な医療診断システム、次世代デジタルチューター、自動運転車、その他の AI ベースのアプリケーションに見られるような、ある程度の自律性を示すものとして総称的に使われることがよくあります。これらのアプリケーションは、しばしば人間の行動に影響を与え、時にはシステム設計者の予期しない形で動的に進化します。

AI ガバナンスとは？

人工知能（AI）ガバナンスとは、AI ツールとシステムが安全かつ倫理的であること、そしてそれを維持することを保証するための防護策を指します。AI ガバナンスは、安全性、公平性、人権尊重を確保するために、AI の研究、開発、応用を導く枠組み、ルール、基準を確立します。

AI ガバナンスには、偏見、プライバシー侵害、悪用などのリスクに対処する監視メカニズムが含まれており、同時にイノベーションと信頼を促進します。AI 倫理を中心とした AI ガバナンスへのアプローチには、AI 開発者、ユーザー、政策立案者、倫理学者など、幅広い利害関係者の関与が必要であり、それによって AI 関連システムが社会の価値観に沿って開発・使用されることが保証されます。

ガバナンスは、AI の振る舞いを倫理基準や社会の期待に合わせるために必要な監視を確立し、潜在的な悪影響から守ることを目的としています。

AI ガバナンスは、AI 技術の開発と適用において、コンプライアンス、信頼、効率性を達成するために不可欠です。組織や政府の業務への AI の統合が進むにつれて、その悪影響の可能性がより顕著になっています。Microsoft の AI チャットボット「Tay」がソーシャルメディア上での公のやり取りから有害な行動を学習した事例（ibm.com 外部のリンク）や、COMPAS ソフトウェアの偏った量刑判断（ibm.com 外部のリンク）のような注目を集めた失敗は、被害を防ぎ国民の信頼を維持するために強力なガバナンスが必要であることを浮き彫りにしました。

階層モデル

複雑なシステムを管理するための重要なツールの 1 つがモジュール性です。広範な相互依存を必要とするタスクとそうでないタスクを区別することで、モジュール性は分析すべき相互依存の数を最小限に抑えようとします。階層化(layering)として知られる特定のタイプのモジュール性は、システムのさまざまなコンポーネントを並列の階層に配置することを特徴としています。

サイバースペースの性質を説明するために 4 層モデルが存在します。第 1 に、サイバー体験を持つエンティティ、第 2 に、サイバースペースで送信、保存、変換される情報、第 3 に、論理的な構成要素からなるサービス、そして第 4 に、論理的要素を支える物理的基盤です。

我々は、3 層の分析モデルを用いて AI ガバナンスの複雑な性質を捉えようと試みます。

こちらもお読みください：AI：機会と脅威

1. 技術層

AI ガバナンスエコシステムの基盤となるアルゴリズムとデータは、技術層に存在します。AI および自律システムは、ソフトウェア（刑事司法システムや医療診断システム、インテリジェントパーソナルアシスタントなど）であれ、物理的（業務用ロボットや自動運転車など）であれ、データとアルゴリズムに依存しています。責任あるアルゴリズムのための一連のガイドラインが、「DataResponsibly」に関する Dagstuhl セミナーで作成され、社会的影響評価書の提案も添えられました。社会的に責任あるアルゴリズムのために提案された指針は、説明責任、説明可能性、正確性、関連性、公平性です。データガバナンス、つまり AI アルゴリズムがデータを収集、使用、管理するプロセスは、公平性を守り、人種、肌の色、国籍、宗教、性別、ジェンダー、性的指向、障害に基づく差別を防ぐ原則に従うべきです。

こちらもお読みください：Perplexity AI とは？

2. 倫理層

技術層の上には、あらゆるタイプの AI システムとアプリケーションに関わる広範な倫理的問題を議論することができます。人権の原則は、これらの倫理的原則を策定するための重要な源泉です。AI と自律システムに関する IEEE の一般原則は、AI の倫理基準がどのように形作られ始めているかを示すもう一つの例です。アルゴリズムによって駆動される行動は、道徳的基準や教訓を用いて評価することができます。例えば、AI アプリケーションが保険会社のデータを調査し、性別や年齢などの要因に基づいて特定のグループにより高い保険料を課す場合、平等な扱いや公平性という倫理原則が侵害されることになります。

3. 社会・法律層

AI と自律システムを規制するための制度を創設し、役割を割り当てるプロセスは、社会・法律層で扱うことができます。言い換えれば、意思決定機関が AI を定義し、特定の状況下で研究者が厳格な責任を負うことなく AI 研究を行えるような例外を設け、AI の認証手続きを確立する権限を持つことになります。技術層と倫理層から得られた原則や基準、ならびに人権に関するものなどより広範な国内および国際的な法的枠組みは、AI を規制するための特定の規範の基盤となり得ます。AI と自律システムに適切な行動を定義するために、この階層モデルは AI ガバナンスを考えるための枠組みを提供します。

アルゴリズムおよび AI の意思決定システムは、多層的かつ多層的なアプローチの組み合わせを用いて、そのガバナンス構造を実装することができます。ここでは、特定の AI アプリケーションに関連するリスクが大きく検証可能である場合にのみ考慮されるものもあることを念頭に置きつつ、いくつかの層について説明します。ガバナンス手順は、国内または国際レベルで使用することができ、政府構造から市場指向のソリューションまで多岐にわたります。