OpenAI の次期モデル、米国政府による安全性審査を受ける

OpenAI の次期モデルが米国政府の安全性審査を受けることは、公開証拠がインターネットインフラ、ガバナンス、運用依存性、または市場の可視性に関連づけられているため、BTW Media によってプロファイルされています。

• Sam Altman, OpenAI の CEO は、同社が開発した次期モデルが一般公開される前に、米国政府による安全性審査と評価を受けると述べました。
• この取り組みは、高度な AI の慎重な開発と利用を保証し、リスクや倫理的問題に関する懸念に応えるための重要な前進です。

私たちの見解
OpenAI が次期モデルを政府の安全性審査に提出するという取り組みは、他のテクノロジー企業や研究機関が AI プロジェクトにおいて安全性、倫理、説明責任を優先する前例となります。AI が急速に進歩し続ける中、これらの技術の責任ある有益な利用を確保することは、利害関係者や一般市民の信頼を築くために不可欠です。
– Rebecca Xu, BTW 記者

何が起こったか

OpenAIは、ChatGPT や同社が開発した一連の基盤モデルによって、AI 業界でよく知られた名前となりました。Altman氏のリーダーシップのもと、この研究所は新製品の開発を積極的に推進してきましたが、その急速なアプローチは批判も招いてきました。特に、元安全責任者は、研究所が高度な AI 研究における安全性の問題を軽視していると主張しています。

これらの懸念を受けて、最近、米国の 5 人の上院議員が Altman 氏に書簡を送り、OpenAI の安全性への取り組みや、雇用契約における非誹謗条項のために公に懸念を表明した元従業員に対する報復の可能性について疑問を呈しました。

Sam Altman 氏は X（旧 Twitter）への投稿で、OpenAI が連邦機関である U.S. AI Safety Institute と協力し、次期基盤モデルへの早期アクセスを可能にする協定を締結していることを明らかにしました。このパートナーシップは、AI 技術の科学的理解と評価を進展させることを目指しています。

Altman 氏はまた、組織が非誹謗方針を改訂し、現在および元従業員が会社やそのプロジェクトに関する懸念を公然と表明できるようにしたことを強調しました。OpenAI は、コンピューティングリソースの少なくとも 20％を AI 安全性研究に割り当てるというコミットメントを維持しています。

こちらもお読みください:OpenAI とは？

こちらもお読みください:OpenAI、U.S. AI Safety Institute を通じて AI の安全性を向上

こちらもお読みください:OpenAI、AI の未来を形作る法案を支持

なぜ重要か

高度な AI 研究と社会にとって安全で有益な AI の推進への取り組みで知られる OpenAI は、政府機関と提携して次期モデルの厳格な安全性評価を実施しています。この協力は、意図しないバイアス、セキュリティの脆弱性、モデルの使用から生じる可能性のある倫理的考慮事項といった潜在的リスクに対処することを目的としています。

AI モデルを米国政府による徹底した安全性審査に提出することで、OpenAI は人工知能分野における透明性、説明責任、責任あるイノベーションへのコミットメントを示そうとしています。評価プロセスには、AI 研究者、倫理学者、政策立案者、市民社会の代表者など、さまざまな分野の専門家が関与します。

AI モデルの開発に政府の監視を関与させるという決定は、先端技術に対する規制枠組みと安全メカニズムの重要性に対する認識が高まっていることを反映しています。また、AI の開発と展開がもたらす複雑な課題に対処するために、産業界、学界、政府間の協力的な取り組みが必要であることも浮き彫りにしています。