IGF 2023: AI とビッグデータが世界を支配し、救う可能性

IGF 2023: AI とビッグデータが世界を支配し、救う可能性があるという本記事は、公開された証拠がインターネットインフラ、ガバナンス、運用依存関係、または市場の可視性に関連しているため、BTW Media によってプロファイルされました。

最近、京都の巨大な多層階の国際会議場では、様式化された湖を見下ろし、緑豊かな山を背景に、インターネットの未来について議論し考察するために、数千人の代表者が集まりました。

この 5 日間のイベントでは、政府高官や企業・組織の広報担当者が集まる会議で期待される決まり文句や話の断片が飛び交いました。「マルチステークホルダー・エンゲージメント」「コラボレーション」「プライバシー、セキュリティ、安全性」といった言葉が最も頻繁に聞かれました。しかし、一部のセッションは、この無味乾燥な専門用語を超えて、2 つの重大な現実を明らかにしました。第一に、人工知能（AI）は、おそらく世界がこれまで経験した中で最も強力な技術開発であり、善のための恐るべき力であると同時に、さらに手ごわい敵にもなり得るということです。この分野の開発では、人類が AI を所有し制御することを保証しなければならず、この関係が逆転することを決して許してはなりません。第二に、データの収集、流通、共有は、特に国境を越えて行われる場合、AI と組み合わせることで劇的な進歩の機会をもたらす一方で、脅威も伴います。

例を挙げると:

例えば、日本で地震が発生するたびに、膨大なデータが得られ、それを AI モデルを使って分析することで、将来の地震を予測し、次回の被害を軽減して人命を救うことができます。このデータが国境を越えて共有されれば、日本の地震データが他国の人命救助にも役立つ可能性があり、その逆もまた然りです。しかし、AI が「幻覚」を起こす能力、つまり事実を捏造する能力はすでによく知られており、差し迫った災害の誤った予測、特に避難命令を含むものであれば、非常に混乱を招き、危険を及ぼす可能性があります。さらに、AI に供給されるデータは正確で信頼性が高く、プライバシーやサイバーセキュリティの問題があってはならず、より政治的には、技術的に進んだ国々と発展途上国双方で利用可能でなければなりません。例えば、先進国が他国のデータを入手して使用し、そのデータを AI で分析して得られた知見を共有しないというリスクがあります。

「データは今日、多くの経済圏の生命線です」と、オープニングセッションの一つで、河野太郎デジタル改革担当大臣は語りました。しかし、データは断片化されており、ガバナンスも分断されており、政策立案者は役に立つ新興技術に常に気づいているわけではなく、一般市民は偽情報やデータの正確性に関する脅威を理解する必要があります。

あわせて読みたい：中国、AI トレーニングデータに関するより厳しい規制を発表

新型コロナウイルス感染症対策における AI とデータの活用方法

この種の AI とデータの組み合わせの利点は、COVID-19 ワクチンの開発で特に顕著でした。「COVID-19 は、データがいかに医療革新の鍵を握るかを示しました」と Microsoft のデジタルセキュリティ責任者、Courtney Gregoire 氏は述べました。「良質なデータはより良いアイデアを生み、生産性を向上させ、すべての人を助けます。しかし、市民は自分のデータが安全で保護されていると感じなければならず、そのためにはデータ転送における信頼のメカニズムが必要です。」

Moderna と Pfizer は、AI 手法により記録的な速さで COVID-19 ワクチンを開発し、はるかに効率的に配布することができました。パンデミックは長く続いたように感じられましたが、AI の発展と世界的なワクチン接種プログラムを可能にしたデータ共有プロトコルがなければ、状況ははるかに悪化していたでしょう。

オスロ大学のDHIS2のような開発も、今後の保健イニシアチブやアウトブレイク時に役立つでしょう。これはすでに 100 カ国で使用されているオープンソースの保健管理情報システムであり、参加国はシステム上でデータを共有することに同意しています。

また、日本が 2019 年に立ち上げたData Free Flow with Trust（DFFT）イニシアチブは、政府、学界、民間企業、市民社会（NGO、消費者団体）から人々を集め、現在データの提供と利用に関するガイドライン（存在する場合）に存在するいくつかのギャップを埋めることを目指します。

あわせて読みたい：データプライバシーへの懸念が高まる中、Worldcoin の価値が 50%急落

AI のバイアスとその解決方法

グローバルなデータと AI を使用することで達成できる信じられないほどの利益に加えて、少なくとも現時点では弱点も存在します。データの小さな欠陥がマシンによって増幅される可能性があります。「AI のバイアスは確かに現実です」と Wipro のグローバルプライバシー責任者、Ivana Bartoletti 氏は述べました。「例えば、AI は女性により低賃金の仕事を提案するため、自動化された意思決定とこれらのバイアスが人生に影響を与えることがわかっています。」

しかし、問題は技術的なものだけではありません。AI モデルは常に人間によって形作られた既存のデータと情報に基づいてトレーニングされるからです。「これらの問題は技術的な観点から対処できますが、問題はより深いところにあります」と Bartoletti 氏は付け加えました。「それは社会に根ざしています。」

広島プロセスは、近くこれに取り組むことを期待しています。2023 年初めに広島で開催された G7 サミットで創設された「G7 広島 AI プロセス」は、生成 AI モデルを使用するすべての人に対して、行動規範と検討すべき質問を提供することを目指しています。最終報告書は 2023 年末までに提出される予定です。

生成 AI における誤情報と偽情報

生成 AI に関する最大の懸念の一つは、もちろん「フェイクニュース」の生成と拡散です。それは現実を記録しているように見えるが架空の画像、動画、ストーリーであり、多くの場合、悪意のある目的で作成されます。「テクノロジーは、さまざまなプラットフォームが私たちの注目を集めようと競う中で、私たちの合理的な思考を回避するために、私たちの生物学をハッキングしました」と、Rappler の CEO 兼創設者で 2021 年のノーベル平和賞受賞者である Maria Ressa 氏は述べました。「現在、世界の 70％が権威主義体制の下にあり、ソーシャルメディアプラットフォームは否定し、そらし、遅延させ続けています。私たちはより迅速に行動しなければなりません。これは世界にとって文化的な瞬間です。」

あわせて読みたい：2 ドルの iPhone を販売する MrBeast のディープフェイクが TikTok でバイラルに

Ressa 氏は「嘘は真実よりも 6 倍速く広がる」という、MIT メディアラボによって発見された統計を強調し、それは虚偽がほとんどの場合、私たちの感情的反応を利用するように設計されている一方で、冷徹な事実はそうではないためだと説明しました。

Meta のグローバルアフェアーズ担当社長、Nick Clegg 氏は、生成 AI のネガティブな側面と戦うために AI 自体を使用している彼らの取り組みを強調しました。「Facebook のヘイトスピーチは約 0.01%から 0.02%の割合で発生しており、つまり 1 万件の投稿をスクロールするごとに、1 件か 2 件が有害と見なされる可能性があります。そして、過去 18 か月間で AI を活用した対策により、その割合は 60%減少しました。つまり、私たちは AI を悪を最小限に抑え、善を増幅するためのツールとして使用しているのです。」

Google のグローバルアフェアーズ担当社長、Kent Walker 氏も、AI 生成コンテンツを検出してそのようにマークする SynthID や、AI モデルの実装と使用におけるリスク軽減を目的とした Secure AI Framework（SAIF）など、Google の取り組みを強調しました。「ピクセルレベルで画像や動画を特定し、その出所を認証できるようにし、選挙広告における AI 画像にラベルを付けること、これらはすべて、コンテンツの根本的な意味を理解し、何を信頼でき何を信頼できないかを判断するために設計されています」と彼は述べました。

「信頼」という言葉は、4 日間の会議の始まりであり、それが繰り返し出てきたのはふさわしいことでした。Maria Ressa 氏は、信頼が AI がもたらす問題と機会の中心であり、すべては AI がトレーニングされるデータの正確性から始まると特に強く主張しました。「事実がなければ真実はなく、真実がなければ信頼はなく、この三つがなければ、自由も民主主義もありません。」

生成 AI が「瞬時に情報の津波」を生み出すことができると、慶應義塾大学法学部の Tatsuhiko Yamamoto 教授が言うように、フェイクニュースの蔓延を緩和するのに役立つあらゆる取り組みは価値があります。