要約

  • Haiku 5.5は100万トークンのコンテキスト窓を持つが、プロンプトが10万トークンを超えると入出力の単価が5倍になる。
  • 同じ文章でもHaiku 4.5より約3割多くトークンを使うため、顧客は自社の入力を数え直し、Anthropicの平均削減率をそのまま予算に当てはめない方がよい。

料金の仕組み

モデルが受け入れられる量と、その量を処理する価格は別の話だ。Anthropicは10月7日にHaiku 5.5を発表し、最大100万トークンのコンテキストと最大12万8,000トークンの出力を示した。一方、料金表の境界は10万トークンにある。そこまでのプロンプトでは入力が100万トークン当たり0.10ドル、出力が0.50ドル。10万を超えると、それぞれ0.50ドルと2.50ドルに上がる。長いプロンプトは、入力だけでなく出力も高い料金帯に入る。Claude Platformの料金表は二つの帯を明記している。

これは100万トークン窓の性能を否定しない。長い文書や会話履歴、ツール結果を一つのリクエストで扱えることと、その全域が同じ価格であることは違う。利用可能な容量を示す数字だけを見てモデル間の単価を比べると、実際の支出を決める段差を見落とす。

Haiku 4.5からの移行には、トークナイザーの変更もある。Anthropicによれば、同じ文章はHaiku 5.5で約3割多いトークンになり、正確な増加は内容によって異なる。移行ガイドは、以前の計測値を使い回さず、プロンプトを新モデルで再計数してコスト見積もりを見直すよう勧めている。

たとえば、旧モデルで5万トークンだった文章は、新モデルで約6万5,000トークンになる可能性がある。標準入力料金だけで計算すると、Haiku 4.5は0.05ドル、Haiku 5.5は0.0065ドルで、約87%安い。旧モデルで8万トークンだった別の文章は、新モデルでは約10万4,000トークンとなり、上の料金帯に入る。入力料金は0.08ドルから約0.052ドルへ、約35%の低下にとどまる。この試算は入力だけを扱い、出力、ツール、キャッシュ、割引、タスクの出来の差を含まない。3割増もすべての文章に当てはまる係数ではない。

AnthropicはHaiku 5.5の実行コストが平均で約75%下がると述べている。発表の注記によれば、その計算にはトークナイザーの変更も反映され、従来のHaikuに対するリクエストの約9割は10万トークン以下だった。これは同社が評価した仕事の構成に関する説明であり、個々の顧客の利用状況を示すものではない。リクエスト数の9割が短くても、トークン量の9割が低料金帯にあるとは限らない。移行で入力内容が変われば、その比率も変わり得る。

実際の請求にはプロンプトキャッシュとBatch APIも関わる。キャッシュの書き込みと読み出しには別の料金があり、Batch APIでは入出力のトークン料金が半額になる。また、リクエストには文書以外にも、システム指示、ツールの定義、ツールの結果、会話履歴、生成文が含まれる。コンテキスト窓の説明は、これらも容量に数えるとしている。ファイルの文字数だけでは、実際のプロンプト量を把握できない。

まず必要なのは、新しいトークナイザーで代表的な入力を再計測し、10万未満、その近辺、超過という帯に分けることだ。入力と出力、キャッシュ、Batchの利用状況も分けて記録する。長文の帯が支出を押し上げるなら、検索や要約で入力を絞る案を試せる。ただし、削った資料が答えに必要な根拠なら、トークンの節約は結果の劣化を招く。

100万トークンという数字は料金ではなく容量である。Haiku 5.5を導入する企業に必要なのは、実際の仕事がどの長さのプロンプトを生み、その何割が料金境界を越えるかを知ることだ。

参照資料