- Проактивно управлять ограничениями скорости и затратами
- Принимать умные решения о маршрутизации моделей
- Оптимизировать промпты до определенной длины
Как подсчитать токены сообщения
Эндпоинт подсчета токенов принимает тот же структурированный список входных данных для создания сообщения, включая поддержку системных промптов, инструментов, изображений и PDF. Ответ содержит общее количество входных токенов.Количество токенов следует считать оценкой. В некоторых случаях фактическое количество входных токенов, используемых при создании сообщения, может отличаться на небольшое количество.Количество токенов может включать токены, добавленные автоматически Anthropic для системных оптимизаций. Вы не платите за системные токены. Биллинг отражает только ваш контент.
Поддерживаемые модели
Все активные модели поддерживают подсчет токенов.Подсчет токенов в базовых сообщениях
JSON
Подсчет токенов в сообщениях с инструментами
Количество токенов серверных инструментов применяется только к первому вызову выборки.
JSON
Подсчет токенов в сообщениях с изображениями
JSON
Подсчет токенов в сообщениях с расширенным мышлением
См. здесь для получения более подробной информации о том, как рассчитывается контекстное окно с расширенным мышлением
- Блоки мышления из предыдущих ходов ассистента игнорируются и не засчитываются в ваши входные токены
- Мышление текущего хода ассистента засчитывается в ваши входные токены
JSON
Подсчет токенов в сообщениях с PDF
Подсчет токенов поддерживает PDF с теми же ограничениями, что и Messages API.
JSON
Цены и ограничения скорости
Подсчет токенов бесплатен для использования, но подлежит ограничениям запросов в минуту на основе вашего уровня использования. Если вам нужны более высокие лимиты, обратитесь в отдел продаж через Claude Console.| Уровень использования | Запросов в минуту (RPM) |
|---|---|
| 1 | 100 |
| 2 | 2,000 |
| 3 | 4,000 |
| 4 | 8,000 |
Подсчет токенов и создание сообщений имеют отдельные и независимые ограничения скорости — использование одного не засчитывается в лимиты другого.
FAQ
Использует ли подсчет токенов кэширование промптов?
Использует ли подсчет токенов кэширование промптов?
Нет, подсчет токенов предоставляет оценку без использования логики кэширования. Хотя вы можете предоставить блоки
cache_control в вашем запросе подсчета токенов, кэширование промптов происходит только во время фактического создания сообщения.