- AI システムが発展し複雑化するにつれて、そのリスクと他のデバイスやインテリジェントシステムとの相互接続性も増大するため、特定のガバナンスメカニズムの構築が必要となる。
- AI をガバナンスによって規制すべきかどうかをめぐる議論がある。AI のリスクを理由に賛成する人もいれば、規制によるリスクを懸念する人もいる。
- AI ガバナンスは適応的かつ協調的でなければならず、そうでなければ AI の最新の進歩に追いつくことができない。
現代社会における社会的交流や取引の組織化の方法は、人工知能（AI）によって根本的に変化している。AI システムとその基盤となるアルゴリズムは、社会の道徳的に複雑な意思決定においてますます重要になっている。これらのシステムには、患者を診断する臨床意思決定支援システム、犯罪活動の可能性を予測する警察システム、コンテンツを分類してユーザーにパーソナライズされたコンテンツを提案するフィルタリングアルゴリズムなどが含まれる。人工知能（AI）は、複雑な問題解決において人間の知能を模倣または超える能力によって他の技術と一線を画している。通常人間が行う多くの認知タスクが機械によって置き換えられ、凌駕される可能性があるからだ。
AI ガバナンスが重要な理由
AI ガバナンスと規制は、AI の開発と導入によってもたらされるリスクのレベルを理解し制御するために重要である。最終的には、社会やビジネスで機械学習技術を使用する際の許容可能なリスクレベルに関する合意形成にも役立つだろう。
しかし、AI の開発を統治することは非常に困難である。開発者や導入者が参照できる中央集権的な規制やリスク管理フレームワークが存在しないだけでなく、リスクはシステムの使用状況によって異なるため評価が難しいからだ。
AI が規制されるべき理由
AI の倫理的な利用の確保
規制は、既存のデジタル法を AI 技術に適用し適応させるために必要である。これは、ユーザーのプライバシー（およびそのデータ）を保護することを意味する。AI 企業は、データを大量に消費するアルゴリズムを扱う際に強力なサイバーセキュリティ能力に投資すべきであり…ユーザーデータを第三者に販売すべきではないため、一部の収益を放棄すべきである。これは、規制がなければアメリカ企業が本質的かつ意図的に誤解していると思われる概念である。
より哲学的に言えば、規制は生成 AI のユーザー、開発者、利害関係者の間で信頼、透明性、説明責任を構築するのに役立つ。すべての関係者に AI の結果の出典、目的、限界を開示するよう求めることで、私たちはより良い選択を行い、他者の選択を信頼できるようになるだろう。社会の結束にはこれが必要である。
人権と安全の保護
「基本」を超えて、規制は AI のセキュリティリスクから人口全体を保護しなければならない。そのリスクは多数存在する。
そのほとんどは人間に関連するリスクだろう。悪意のある行為者は、生成 AI を利用して偽情報を拡散したり、ディープフェイクを作成したりできる。これは非常に簡単であり、企業は自らそれを止めることができないように見えるが、その主な理由は、AI 生成コンテンツにラベルを付けることを望んでいないからであり（できないからではない）。次の選挙は規制の導入にかかっているかもしれない…一方で、私たちの 10 代の娘たちは、なぜもっと早く実行しなかったのかと尋ねるかもしれない。
AI による戦争や自律型兵器の問題にさえ触れずにこれだけのことがある。自律型兵器の製造は何としても避けなければならない。しかし、このシナリオはあまりにも壊滅的であるため、AI に関連する他の多くの問題を隠すためによく利用される。上記の問題に対処する強力な AI 規制がなければ、社会は一撃の武器による死ではなく、無数の切り傷によって死ぬ可能性がある。だからこそ、企業が人間の価値観と道徳に適合するシステムを構築することに同意するようにしなければならない。
社会的および経済的影響の緩和
非常に少数の人々に多大な富をもたらすアルゴリズムを訓練するためにデータが使用される人々に公正に報いるためのルールが必要である。これがなければ、過去の過ちを繰り返し、すでに深い経済格差をさらに深めるだけである。これは難しいだろう。今日この分野で何が起きているかを明らかにする法的前例はほとんどない。
AI が駆動する経済的独占から世界経済を恒久的に保護することが重要になるだろう。ネットワーク効果により、データや計算能力の不足のため、今日インターネットの巨人に追いつくことはほとんど不可能である。独占禁止法は何十年もほとんど手つかずのままであり、これ以上続けることはできない。この場合、規制が私たちの競争力を低下させることはない。
AI が規制されるべきでない理由
イノベーションと進歩の阻害
規制が AI の進歩とブレークスルーを遅らせるという主張もできる。企業がテストして学ぶことを許さなければ、国際的な競争力が低下するというわけだ。しかし、これが真実であるという決定的な証拠はまだない。たとえそうだとしても、疑問は残る。野放図なイノベーションは社会全体にとって有益なのか？利益がすべてではない。EU は、新しいユニコーンや億万長者を生み出す点で中国や米国に後れを取るかもしれない。それでも、社会的セーフティネット、無料の医療、育児休暇、年間 6 週間の休暇が依然として存在する限り、それはそれほど悪いことなのか？もし規制のおかげで、数百万長者が億万長者になるのを防げるなら、それで構わない。
関連記事：AI 動画ジェネレーター ベスト 5
複雑で困難な実装
世界を変えるテクノロジーに関する規制は、適用可能にするにはあまりにも曖昧であったり広範すぎたりすることがよくある。そのため、異なる法域での実施と執行が困難になる。これは、この分野における明確な基準の欠如のために特に当てはまる。
このことは、国際基準と主権のバランスを取る必要性を特に微妙な問題にしている。AI は国境を越えて運用されるため、その規制には国際的な協力と調整が必要である。法的枠組みや文化的な違いの多様性を考えると、これは複雑になりうる。
過剰規制と予期せぬ結果のリスク
さらに、規制はテクノロジーの速いペースに適応できないことがよくあることを私たちは知っている。AI は急速に進化する分野であり、新しい技術やアプリケーションが定期的に出現している。新しい課題、リスク、機会が絶えず現れており、それらに対処するために十分に機敏で柔軟であり続けなければならない。進歩に遅れずについていき、最先端技術を規制することは、統治機関にとって課題となりうる…しかし、それが誰かを止めたことは一度もなく、世界は回り続けている。
将来的には、政府は協力し連携して一般的な枠組みを確立すると同時に、知識の共有と学際的な協力を促進・奨励する必要がある。これらの枠組みは、AI の最新の進歩に遅れずについていくために、協力的で柔軟なものでなければならない。