META が CM3leon を発表：多用途で効率的な生成 AI モデル

「META Unveils CM3leon A Versatile and Efficient AI Generative Model」は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性に関連しているため、BTW Media によってプロファイルされています。

生成 AI モデルへの関心が爆発的に高まり、自然言語処理

と画像生成の進歩に後押しされています。
生成 AI モデルへの関心が爆発的に高まり、自然言語処理
と画像生成の進歩に後押しされています。METAは、AI 研究の分野で主導的な立場にある企業として、
最先端のマルチモーダルモデル CM3leon を発表しました。マルチモーダルとは、
AI がテキストから画像、画像からテキストの両方の生成を実行できることを意味します。
CM3leon の独自のアプローチは、テキストベースの言語モデルから得られた手法を組み合わせたものです。
Meta のモデルは、拡張検索を伴う大規模な事前学習と、
マルチタスクの教師ありファインチューニングの段階を経てトレーニングされます。

画像生成における優れた性能
CM3leon は、以前のトランスフォーマーベースの手法よりも 5 分の 1 の計算リソースで
トレーニングされていながら、テキストからの画像生成において
最先端の性能を達成しています。
特に、自己回帰モデルの多用途性を示しながらも、
トレーニングコストを低く抑え、効率的な推論を実現しています。

このトークン化に基づくモデルは、従来のテキストからの画像生成アプローチを超えています。
任意のコンテンツに条件付けされた、テキストと画像の複雑なシーケンスを生成できます。
画像生成に特化した他のモデルとは異なり、CM3leon の大規模な
マルチタスク指示によるファインチューニングは、
画像キャプション生成や視覚的質問応答などのさまざまなビジョン言語タスクで
性能を大幅に向上させます。

画像データの倫理的な調達
Meta は、所有権や帰属の問題を回避するために、Shutterstock からライセンスされた画像のみを使用するという、
画像データの調達における倫理的なアプローチを採用したと発表しました。
この社会的に責任ある方法論により、CM3leon は競合他社とは一線を画しています。
広く使用されているベンチマークとの比較では、CM3leon は印象的な FID スコア 4.88 を達成し、
Google の Parti モデルを上回り、テキストからの画像生成の新たな基準を確立しました。
Frechet Inception Distance (FID)スコアが 0.0 であれば、
完璧なスコアを示します。CM3leon は、サングラスと帽子をかぶった鉢植えのサボテンなどの例からわかるように、
複雑な構成のオブジェクトを生成する能力を示しています。

依然として解決すべき課題
CM3leon の可能性は否定できませんが、いくつかの課題に取り組む必要があります。あらゆる AI モデルと同様に、
データの潜在的なバイアスが懸念されます。モデルの出力は、トレーニングデータに存在するバイアスを反映する可能性があるからです。

さらに、CM3leon は高品質な画像を生成できますが、結果はプロンプトの複雑さやトレーニングデータの品質によって
変わる可能性があります。加えて、CM3leon には依然として相当な計算リソースが必要であり、
小規模な組織や個人にとってはアクセスしにくい可能性があります。
また、顕著な汎化能力を示す一方で、トレーニングデータの範囲を超えてまったく新しいコンテンツを生成することには制限があります。

CM3leon は大きな可能性を示していますが、現在のところ研究目的でのみ利用可能です。
今後の発展により、画像とテキストの両方の生成に革命をもたらす、
生成 AI 分野の変革的要素となる可能性があります。CM3leon のアーキテクチャについてさらに詳しく知りたい場合は、こちらの Meta の公式研究論文をご覧ください。