要約

  • Cloudflareは10月9日、Clef-flashの表示価格を入力100万トークン当たり0.090ドルから0.038ドルへ下げ、ホスト版のコンテキスト長も64Kから24Kへ縮めた。価格の引き下げは57.8％、公表上のコンテキスト縮小は62.5％に相当する。
  • 同社によれば、24K入力トークンを超えるリクエストは全体の0.24％にとどまる。観測期間、総リクエスト数、顧客やワークフロー別の分布、算出方法は明らかにされておらず、この比率だけでは何社が低価格モデルを使えるか分からない。
  • Workers AIのトークン単価はモデル間の比較指標で、実際のアカウント請求はNeuron単位だ。顧客は自社のリクエスト構成、上位モデルへの切り替え率、判断結果を把握して初めて、採用された判断一件当たりのコストを測れる。

分析

値下げは通常、より広い利用を促す。ところが、Cloudflareが10月9日にWorkers AIのClefファミリーを更新した際、低価格と同時にホスト版の上限を狭めた。Clef-flashの入力100万トークン当たりの表示価格は0.090ドルから0.038ドルへ下がるが、コンテキスト長は64Kから24Kへ縮む。価格は57.8％下落し、公表された枠は62.5％小さくなった。

これは単独の割引というより、低価格で提供する仕事の範囲を区切る動きだ。Clefは状態と選択肢を与えると、文章を生成する代わりに各選択肢のスコアや確率を返す。分類や振り分けを何度も呼び出す用途では、毎回どれだけの状態を入力するかが費用を決める。

ホストモデル 入力100万トークン当たりの表示価格 コンテキスト長
Clef-flash 0.038ドル 24,576トークン
Clef 0.240ドル 65,536トークン
Clef-omni 0.150ドル 64,000トークン

これらは品質の序列ではない。Clef-omniはテキスト、画像、音声、動画を受け付ける。通常のClefには別の64Kモデルがあり、現行のClef-flash仕様は24,576トークンだ。Flashの上限を超える状態は、短縮・分割するか、別のホストモデルへ送るか、公開された重みを自前で運用することになる。CloudflareはClef-flashの重みを変えておらず、自己ホストなら最大256Kに対応すると説明している。ただし、その場合の運用、稼働率、信頼性確保の費用は公表資料にない。

Cloudflareがホスト版の上限縮小を説明する根拠は需要統計だ。同社は24K入力トークンを超えるリクエストは0.24％だとしている。しかしこれはリクエストの割合であり、顧客の割合ではない。観測期間、母数、アカウント別・ワークフロー別の分布、長いリクエストの数え方は開示されていない。少数の大口利用者が全体のリクエストでは小さな比率でも、顧客側では重要な業務を担っている可能性がある。また、メディアをトークンに換算し、質問を加えた後も上限内に収まるかはこの数字から判断できない。

単価比較からは価格設定の狙いを読めるが、分かる範囲は限定される。CloudflareのClef-flashは入力100万トークン当たり0.038ドル、TypeSafeが公表したJevは0.042ドルで、出力は無料だ。この入力単価だけならClef-flashが9.5％低い。タスク品質、遅延、稼働率、正しい判断一件当たりの総費用が同等だという意味ではない。これは単価の比較であって、性能比較ではない。

表示価格の裏にはもう一つの計量単位がある。Cloudflareによると、価格ページのトークン単価はモデル間比較用の換算値で、Workers AIのアカウントはNeuron単位で請求される。Clef-flashは入力100万トークン当たり3,455 Neuronsに相当し、有料プランでは一日分の無料枠を超えた使用が1,000 Neurons当たり0.011ドルとなる。トークン単価は比較に便利だが、個別アカウントの支払いは実測Neuron数とリクエストの形で決まる。

したがって、商業面で確かめるべきなのは0.038ドルが安く見えるかではない。状態、質問、メディアを数えた後に本番リクエストの何割が24K以内か、再試行や他モデルへの退避がどれほど起きるか、返された判断が実行対象に適しているかだ。Cloudflareが明かしたのは全体のリクエスト比率であり、顧客の採用、業務別コスト、利益率、請求額の低下ではない。現時点で確認できるのは明確な上限を伴う価格提示で、実現した削減額ではない。

出典