我們有兩種類型的限制:

  1. 支出限制設定組織每月 API 使用可產生的最大成本。
  2. 速率限制設定組織在定義時間段內可發出的最大 API 請求數量。

我們在組織層級執行服務配置的限制,但您也可以為組織的工作區設定用戶可配置的限制。

這些限制適用於標準層級和優先層級的使用。有關優先層級的更多資訊,該層級以承諾支出換取增強的服務水準,請參閱服務層級

關於我們的限制

  • 限制旨在防止 API 濫用,同時最小化對常見客戶使用模式的影響。
  • 限制由使用層級定義,每個層級都與不同的支出和速率限制集相關聯。
  • 當您在使用 API 時達到某些閾值,您的組織將自動提升層級。 限制設定在組織層級。您可以在 Anthropic Console限制頁面中查看組織的限制。
  • 您可能在較短的時間間隔內遇到速率限制。例如,每分鐘 60 個請求 (RPM) 的速率可能被執行為每秒 1 個請求。短時間內的高量請求突發可能超過速率限制並導致速率限制錯誤。
  • 下面概述的限制是我們的標準層級限制。如果您尋求更高的自定義限制或優先層級以獲得增強的服務水準,請通過 Anthropic Console 聯繫銷售。
  • 我們使用令牌桶演算法進行速率限制。這意味著您的容量會持續補充到最大限制,而不是在固定間隔重置。
  • 此處描述的所有限制代表最大允許使用量,而非保證的最小值。這些限制旨在減少意外超支並確保用戶間資源的公平分配。

支出限制

每個使用層級都有您每個日曆月在 API 上可以花費的限制。一旦您達到層級的支出限制,在您符合下一層級資格之前,您必須等到下個月才能再次使用 API。

要符合下一層級的資格,您必須滿足存款要求。為了最小化過度資助帳戶的風險,您不能存入超過月度支出限制的金額。

提升層級的要求

使用層級信用購買每月最大使用量
層級 1$5$100
層級 2$40$500
層級 3$200$1,000
層級 4$400$5,000
月度發票N/AN/A

速率限制

我們對 Messages API 的速率限制以每分鐘請求數 (RPM)、每分鐘輸入令牌數 (ITPM) 和每分鐘輸出令牌數 (OTPM) 來衡量,針對每個模型類別。 如果您超過任何速率限制,您將收到描述超過哪個速率限制的 429 錯誤,以及指示等待多長時間的 retry-after 標頭。

ITPM 速率限制在每個請求開始時估算,並在請求期間調整估算以反映實際使用的輸入令牌數。 最終調整將 input_tokenscache_creation_input_tokens 計入 ITPM 速率限制。

對於某些模型,cache_read_input_tokens 也計入 ITPM 速率限制。這些模型的最大 ITPM 在下面的速率限制表中標記為 †。

對於所有其他模型,cache_read_input_tokens 不計入 ITPM 速率限制(儘管仍會計費)。

OTPM 速率限制在每個請求開始時基於 max_tokens 估算,並在請求結束時調整估算以反映實際使用的輸出令牌數。 如果您比預期更早遇到 OTPM 限制,請嘗試減少 max_tokens 以更好地近似完成的大小。

速率限制對每個模型分別應用;因此您可以同時使用不同模型直到它們各自的限制。 您可以在 Anthropic Console 中檢查當前的速率限制和行為。

對於長上下文請求(>200K 令牌),當使用 Claude Sonnet 4 的 context-1m-2025-08-07 beta 標頭時,適用單獨的速率限制。請參閱下面的長上下文速率限制

模型每分鐘最大請求數 (RPM)每分鐘最大輸入令牌數 (ITPM)每分鐘最大輸出令牌數 (OTPM)
Claude Opus 4.x*5030,0008,000
Claude Sonnet 45030,0008,000
Claude Sonnet 3.75020,0008,000
Claude Sonnet 3.5
2024-10-22 (已棄用)
5040,0008,000
Claude Sonnet 3.5
2024-06-20 (已棄用)
5040,0008,000
Claude Haiku 3.55050,00010,000
Claude Opus 3 (已棄用)5020,0004,000
Claude Haiku 35050,00010,000

* - Opus 4.x 速率限制是適用於 Opus 4.0 和 Opus 4.1 合併流量的總限制。

† - 限制將 cache_read_input_tokens 計入 ITPM 使用量。

Message Batches API

Message Batches API 有自己的速率限制集,在所有模型間共享。這些包括對所有 API 端點的每分鐘請求數 (RPM) 限制,以及可同時在處理隊列中的批次請求數量限制。這裡的「批次請求」指的是 Message Batch 的一部分。您可以創建包含數千個批次請求的 Message Batch,每個都計入此限制。當批次請求尚未被模型成功處理時,被視為處理隊列的一部分。

每分鐘最大請求數 (RPM)處理隊列中最大批次請求數每批次最大批次請求數
50100,000100,000

長上下文速率限制

當使用 Claude Sonnet 4 並啟用 1M 令牌上下文窗口時,以下專用速率限制適用於超過 200K 令牌的請求。

1M 令牌上下文窗口目前對使用層級 4 的組織和具有自定義速率限制的組織處於 beta 階段。1M 令牌上下文窗口僅適用於 Claude Sonnet 4。

每分鐘最大輸入令牌數 (ITPM)每分鐘最大輸出令牌數 (OTPM)
1,000,000200,000

要在速率限制下充分利用 1M 令牌上下文窗口,請使用提示快取

在 Console 中監控您的速率限制

您可以在 Anthropic Console使用量頁面監控速率限制使用情況。

除了提供令牌和請求圖表外,使用量頁面還提供兩個單獨的速率限制圖表。使用這些圖表查看您有多少增長空間、何時可能遇到峰值使用、更好地了解要請求什麼速率限制,或如何改善快取率。圖表可視化給定速率限制(例如每個模型)的多個指標:

  • 速率限制 - 輸入令牌圖表包括:
    • 每小時最大未快取輸入令牌每分鐘數
    • 您當前的輸入令牌每分鐘速率限制
    • 輸入令牌的快取率(即從快取讀取的輸入令牌百分比)
  • 速率限制 - 輸出令牌圖表包括:
    • 每小時最大輸出令牌每分鐘數
    • 您當前的輸出令牌每分鐘速率限制

為工作區設定較低限制

為了保護組織中的工作區免受潛在過度使用,您可以為每個工作區設定自定義支出和速率限制。

範例:如果您組織的限制是每分鐘 40,000 個輸入令牌和每分鐘 8,000 個輸出令牌,您可能將一個工作區限制為每分鐘 30,000 個總令牌。這保護其他工作區免受潛在過度使用,並確保組織內資源的更公平分配。剩餘未使用的每分鐘令牌(或更多,如果該工作區未使用限制)然後可供其他工作區使用。

注意:

  • 您不能對預設工作區設定限制。
  • 如果未設定,工作區限制與組織限制相符。
  • 組織範圍的限制始終適用,即使工作區限制加起來更多。
  • 對工作區的輸入和輸出令牌限制支援將在未來添加。

回應標頭

API 回應包含顯示執行的速率限制、當前使用量和限制何時重置的標頭。

返回以下標頭:

標頭描述
retry-after在您可以重試請求之前等待的秒數。更早的重試將失敗。
anthropic-ratelimit-requests-limit在任何速率限制期間內允許的最大請求數。
anthropic-ratelimit-requests-remaining在被速率限制之前剩餘的請求數。
anthropic-ratelimit-requests-reset請求速率限制將完全補充的時間,以 RFC 3339 格式提供。
anthropic-ratelimit-tokens-limit在任何速率限制期間內允許的最大令牌數。
anthropic-ratelimit-tokens-remaining在被速率限制之前剩餘的令牌數(四捨五入到最近的千位)。
anthropic-ratelimit-tokens-reset令牌速率限制將完全補充的時間,以 RFC 3339 格式提供。
anthropic-ratelimit-input-tokens-limit在任何速率限制期間內允許的最大輸入令牌數。
anthropic-ratelimit-input-tokens-remaining在被速率限制之前剩餘的輸入令牌數(四捨五入到最近的千位)。
anthropic-ratelimit-input-tokens-reset輸入令牌速率限制將完全補充的時間,以 RFC 3339 格式提供。
anthropic-ratelimit-output-tokens-limit在任何速率限制期間內允許的最大輸出令牌數。
anthropic-ratelimit-output-tokens-remaining在被速率限制之前剩餘的輸出令牌數(四捨五入到最近的千位)。
anthropic-ratelimit-output-tokens-reset輸出令牌速率限制將完全補充的時間,以 RFC 3339 格式提供。
anthropic-priority-input-tokens-limit在任何速率限制期間內允許的最大優先層級輸入令牌數。(僅限優先層級)
anthropic-priority-input-tokens-remaining在被速率限制之前剩餘的優先層級輸入令牌數(四捨五入到最近的千位)。(僅限優先層級)
anthropic-priority-input-tokens-reset優先層級輸入令牌速率限制將完全補充的時間,以 RFC 3339 格式提供。(僅限優先層級)
anthropic-priority-output-tokens-limit在任何速率限制期間內允許的最大優先層級輸出令牌數。(僅限優先層級)
anthropic-priority-output-tokens-remaining在被速率限制之前剩餘的優先層級輸出令牌數(四捨五入到最近的千位)。(僅限優先層級)
anthropic-priority-output-tokens-reset優先層級輸出令牌速率限制將完全補充的時間,以 RFC 3339 格式提供。(僅限優先層級)

anthropic-ratelimit-tokens-* 標頭顯示當前生效的最嚴格限制的值。例如,如果您已超過工作區每分鐘令牌限制,標頭將包含工作區每分鐘令牌速率限制值。如果工作區限制不適用,標頭將返回剩餘總令牌,其中總數是輸入和輸出令牌的總和。這種方法確保您可以看到對當前 API 使用最相關的約束。