Кратко

  • Haiku 5.5 поддерживает контекст до миллиона токенов, но после 100 000 токенов цена входа и выхода за токен становится в пять раз выше.
  • Поскольку новый токенизатор считает тот же текст примерно на 30% объёмнее, клиентам нужно заново измерить свои запросы, прежде чем переносить среднюю экономию Anthropic на собственные бюджеты.

Анализ

Вместимость контекстного окна и цена его использования — разные характеристики. Представляя Haiku 5.5 7 октября, Anthropic указала окно в миллион токенов и возможность сгенерировать до 128 000 выходных токенов. Однако ценовая ступень начинается на отметке 100 000. Для запросов до этого объёма входные токены стоят 0,10 доллара за миллион, выходные — 0,50 доллара. Выше порога ставки составляют 0,50 и 2,50 доллара. То есть для обоих компонентов цена за токен увеличивается в пять раз. Это видно в таблице Claude Platform.

Технического противоречия здесь нет: большое окно позволяет отправить длинные документы, историю диалога и результаты инструментов за один вызов, а тариф отдельно оценивает объём запроса. Но покупателю важно различать эти числа. Миллион токенов описывает, сколько может поместиться; порог в 100 000 влияет на то, сколько будет стоить обработка.

Сравнение с Haiku 4.5 также требует новых измерений. Anthropic пишет, что новая токенизация превращает тот же текст примерно в на 30% больше токенов, хотя точное изменение зависит от содержимого. Поэтому руководство по переходу рекомендует пересчитать промпты и обновить смету, а не использовать старые счётчики.

Представим текст, который Haiku 4.5 считал как 50 000 входных токенов. В Haiku 5.5 это может быть около 65 000: стоимость только входа снижается с 0,05 до 0,0065 доллара, примерно на 87%. Другой текст, имевший 80 000 токенов в старой модели, может превысить 100 000 после пересчёта — примерно до 104 000. Тогда вход стоит около 0,08 доллара в Haiku 4.5 и 0,052 доллара в Haiku 5.5, то есть примерно на 35% меньше. Это иллюстративная арифметика для входных токенов: без выходов, инструментов, кэширования, скидок и сравнения качества. Прибавка в 30% приблизительна и не является постоянной для каждого текста.

Anthropic заявляет, что средняя стоимость работы Haiku 5.5 примерно на 75% ниже. В примечании к запуску говорится, что расчёт учитывает изменение токенизатора, а около 90% обращений к предыдущей Haiku не превышали 100 000 токенов. Этот показатель описывает набор запросов, на котором основан расчёт компании, но не профиль конкретного клиента. Доля запросов не равна доле токенов: несколько длинных промптов способны составить значительную часть расхода. После миграции состав трафика тоже может измениться.

Итоговую стоимость меняют кэш и пакетная обработка. Запись и чтение из кэша тарифицируются отдельно, а Batch API снижает цены входных и выходных токенов на 50%. Помимо документа, запрос может содержать системные инструкции, определения инструментов и их результаты, историю диалога и ответ модели. В документации о контекстных окнах все эти элементы учитываются. Размер исходного файла не даёт полного представления о числе токенов в запросе.

Практический шаг для покупателя — пересчитать выборку реальных промптов токенизатором Haiku 5.5 и разделить её на диапазоны ниже, около и выше 100 000 токенов. Вход, выход, кэш и Batch нужно учитывать отдельно. Если длинные запросы дают заметную часть расхода, можно проверить поиск по релевантным фрагментам или суммирование контекста. Но необходимо удостовериться, что сокращение не убирает данные, на которых держится ответ.

Миллион токенов — это предел вместимости, а не единая ставка и не обещание низкой цены. Экономику определяют реальные длины промптов и частота, с которой они переходят границу тарифного диапазона.

Источники