Google、安全性重視の「オープン」AI モデルを発表

「Google launches safety-focused ‘open’ AI models」は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性と結びついているため、BTW Media によってプロファイリングされています。

• Google は、安全性、透明性、使いやすさを重視した生成 AI モデルの 3 点セットを発表しました。これはオープンモデル技術の開発における重要な一歩となります。
• これらのモデルは、AI の安全性と倫理的な利用に関する高まる懸念に対応しつつ、開発者コミュニティ内での協力を促進することを目的としています。

私たちの見解
これらの新モデルは、AI の安全性に関する懸念に対応しつつ、研究や商用アプリケーション向けのアクセス可能なツールを提供することで、開発者コミュニティ内での善意を促進するという Google のコミットメントを示しています。
-Lilith Chen, BTW レポーター

何が起こったのか

Googleは、生成 AIの安全性向上に向けた最新の取り組みとして、新しい Gemma 2 モデルである Gemma 2 2B、ShieldGemma、Gemma Scope を発表しました。これらのモデルは、5 月に発表された Gemma 2 ファミリーを基盤とし、ユーザーの安全性と透明性を重視しつつ、さまざまなアプリケーション向けに設計されています。

Gemma 2 2B は、ラップトップやエッジデバイスを含むさまざまなハードウェアで動作可能な軽量モデルです。Google の Vertex AI モデルライブラリや Kaggle などのプラットフォームから簡単にダウンロードでき、幅広い開発者に利用されています。一方、ShieldGemma は、ヘイトスピーチ、ハラスメント、性的に露骨なコンテンツなどの有害な内容を識別してフィルタリングする一連の安全性分類器として機能し、より安全な AI インタラクションの実現に貢献します。最後に、Gemma Scope は、データ処理能力や予測能力の詳細な情報を提供することで、開発者が Gemma 2 モデルの内部動作をより深く理解できるようにし、責任ある AI 開発を促進します。

関連記事:OpenAI とは？

関連記事:Apple、AI モデルトレーニングに Google のチップを採用

関連記事:Google のオリンピック AI 広告が信憑性をめぐる議論を巻き起こす

なぜこれが重要なのか

これらのモデルの公開は、オープン AI 技術を提唱する米国商務省の最近の報告書と一致しており、中小企業や研究者にとっての潜在的な利点を強調しています。この報告書は、高度な AI ツールへのアクセスを可能にすることの重要性を強調し、それがさまざまな分野でのイノベーションを促進し、競争力を強化することを示しています。さらに、AI モデルの使用に伴う潜在的なリスクを軽減するために監視する必要性を強調し、責任ある利用を確保することを求めています。

これらの生成 AI モデルをアクセス可能にすることで、Google は AI アプリケーションにおける重要な安全上の懸念に対処しながら、開発者コミュニティ内でのイノベーションを支援することを目指しています。安全性と透明性への重点は、AI テクノロジーの倫理的影響に対する認識の高まりを反映しています。Google の取り組みは、AI 開発へのより広範な参加を促進するだけでなく、ユーザーの安全を優先する責任ある実践を促進します。生成 AI が進化を続ける中で、同社の努力は、より安全で公平なテクノロジー環境を形成する上で重要な役割を果たすでしょう。