OpenAI、US AI Safety Institute と協力し次期生成 AI の早期安全性試験を実施

『OpenAI collaborates with US AI Safety Institute for early safety testing』は、公開証拠がインターネット基盤、ガバナンス、運用依存性、または市場認知度に結びついているため、BTW メディアによって調査対象となっています。

• OpenAI の CEO であるサム・アルトマン氏は、次期大規模生成 AI モデルの早期安全性試験のため、US AI Safety Institute との協力を発表した。
• この動きは、OpenAI の安全慣行に対する批判を受けたもので、AI 安全性への新たな注力を示すことを目的としている。

BTW の見解
この協力は、AI 安全性に対する高まる懸念への OpenAI の対応を示し、批判を和らげ責任ある AI 開発への取り組みを実証することを目指しています。連邦機関と協業することで、OpenAI はイノベーションと安全プロトコルのバランスを図っています。
— BTW 記者 Zoey Zhu

経緯

OpenAI の CEO、サム・アルトマン氏は木曜夜、OpenAI が次期大規模生成 AI モデルの安全性試験のため、US AI Safety Institute と協力し早期アクセスを提供していると発表した。US AI Safety Instituteは、米商務省国立標準技術研究所（NIST）の一部であり、AI プラットフォームのリスク評価と対処を目的としている。この協力は、6 月に英国の AI 安全機関と同様の合意が行われたことに続くものだ。

OpenAI はここ数カ月、AI の安全性を軽視しているとの批判に直面していた。5 月、同社は「超知能」AI システムが暴走するのを防ぐ制御技術の開発を担う部門を解散した。この措置により、同部門の共同責任者が辞任し、AI 安全性の支持者から反発を招いた。これに対し OpenAI は、制限的な非誹謗中傷条項の撤廃や、コンピューティングリソースの 20%を安全性研究に充てることなど、懸念に対処する措置を講じている。

あわせて読む:OpenAI、AI の未来を形作る法案を支持

あわせて読む:OpenAI、ChatGPT のリアルタイム音声モードを発表

なぜ重要か

US AI Safety Institute との協力は、OpenAI が信頼を再構築し、AI 安全性へのコミットメントを示す努力の表れである。次期大規模生成 AI モデルの安全性試験のため早期アクセスを提供することで、OpenAI はモデルが広く公開される前に潜在的なリスクが特定・軽減されることを確実にしようとしている。

この動きは、OpenAI が支持する「未来のイノベーション法（Future of Innovation Act）」とも戦略的に連動している。これは上院で提案されている法案で、US AI Safety Institute を AI モデルの基準とガイドラインを設定する行政機関として認可するものだ。OpenAI のロビー活動の強化や、アルトマン氏が国土安全保障省の人工知能安全・セキュリティ委員会に参加していることも、連邦レベルでの AI 政策立案における同社の影響力を示している。この協力は、OpenAI が AI 安全性の懸念に真剣に取り組み、強力な生成 AI 技術の開発と堅牢な安全プロトコルのバランスを取っていることを、関係者や批判者に安心させることを目的としている。