Kami menawarkan tiga tingkat layanan:
  • Tingkat Prioritas: Terbaik untuk alur kerja yang diterapkan dalam produksi di mana waktu, ketersediaan, dan penetapan harga yang dapat diprediksi penting
  • Standar: Tingkat default untuk pemilihan dan penskalaan kasus penggunaan sehari-hari
  • Batch: Terbaik untuk alur kerja asinkron yang dapat menunggu atau mendapat manfaat dari berada di luar kapasitas normal Anda

​
Tingkat Standar

Tingkat standar adalah tingkat layanan default untuk semua permintaan API. Permintaan di tingkat ini diprioritaskan bersama semua permintaan lain dan mengamati ketersediaan upaya terbaik.

​
Tingkat Prioritas

Permintaan di tingkat ini diprioritaskan di atas semua permintaan lain ke Anthropic. Prioritisasi ini membantu meminimalkan “server overloaded” errors, bahkan selama waktu puncak. Untuk informasi lebih lanjut, lihat Mulai dengan Tingkat Prioritas

​
Bagaimana permintaan mendapatkan tingkat yang ditugaskan

Saat menangani permintaan, Anthropic memutuskan untuk menugaskan permintaan ke Tingkat Prioritas dalam skenario berikut:
  • Organisasi Anda memiliki kapasitas tingkat prioritas input token yang cukup per menit
  • Organisasi Anda memiliki kapasitas tingkat prioritas output token yang cukup per menit
Anthropic menghitung penggunaan terhadap kapasitas Tingkat Prioritas sebagai berikut: Token Input
  • Pembacaan cache sebagai 0,1 token per token yang dibaca dari cache
  • Penulisan cache sebagai 1,25 token per token yang ditulis ke cache dengan TTL 5 menit
  • Penulisan cache sebagai 2,00 token per token yang ditulis ke cache dengan TTL 1 jam
  • Untuk permintaan long-context (>200k token input), token input adalah 2 token per token
  • Semua token input lainnya adalah 1 token per token
Token Output
  • Untuk permintaan long-context (>200k token input), token output adalah 1,5 token per token
  • Semua token output lainnya adalah 1 token per token
Jika tidak, permintaan dilanjutkan di tingkat standar.
Permintaan yang ditugaskan Tingkat Prioritas ditarik dari kapasitas Tingkat Prioritas dan batas laju reguler. Jika melayani permintaan akan melampaui batas laju, permintaan ditolak.

​
Menggunakan tingkat layanan

Anda dapat mengontrol tingkat layanan mana yang dapat digunakan untuk permintaan dengan menetapkan parameter service_tier: 
message = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Hello, Claude!"}],
    service_tier="auto"  # Automatically use Priority Tier when available, fallback to standard
)
Parameter service_tier menerima nilai-nilai berikut:
  • "auto" (default) - Menggunakan kapasitas Tingkat Prioritas jika tersedia, jatuh kembali ke kapasitas lain Anda jika tidak
  • "standard_only" - Hanya gunakan kapasitas tingkat standar, berguna jika Anda tidak ingin menggunakan kapasitas Tingkat Prioritas Anda
Objek usage respons juga mencakup tingkat layanan yang ditugaskan ke permintaan: 
{
  "usage": {
    "input_tokens": 410,
    "cache_creation_input_tokens": 0,
    "cache_read_input_tokens": 0,
    "output_tokens": 585,
    "service_tier": "priority"
  }
}
Ini memungkinkan Anda menentukan tingkat layanan mana yang ditugaskan ke permintaan. Saat meminta service_tier="auto" dengan model dengan komitmen Tingkat Prioritas, header respons ini memberikan wawasan: 
anthropic-priority-input-tokens-limit: 10000
anthropic-priority-input-tokens-remaining: 9618
anthropic-priority-input-tokens-reset: 2025-01-12T23:11:59Z
anthropic-priority-output-tokens-limit: 10000
anthropic-priority-output-tokens-remaining: 6000
anthropic-priority-output-tokens-reset: 2025-01-12T23:12:21Z
Anda dapat menggunakan kehadiran header ini untuk mendeteksi apakah permintaan Anda memenuhi syarat untuk Tingkat Prioritas, bahkan jika melampaui batas.

​
Mulai dengan Tingkat Prioritas

Anda mungkin ingin berkomitmen pada kapasitas Tingkat Prioritas jika Anda tertarik pada:
  • Ketersediaan lebih tinggi: Target uptime 99,5% dengan sumber daya komputasi yang diprioritaskan
  • Kontrol Biaya: Pengeluaran yang dapat diprediksi dan diskon untuk komitmen yang lebih lama
  • Overflow Fleksibel: Secara otomatis jatuh kembali ke tingkat standar ketika Anda melampaui kapasitas yang berkomitmen
Berkomitmen pada Tingkat Prioritas akan melibatkan keputusan:
  • Sejumlah token input per menit
  • Sejumlah token output per menit
  • Durasi komitmen (1, 3, 6, atau 12 bulan)
  • Versi model tertentu
Rasio token input ke output yang Anda beli penting. Mengukur kapasitas Tingkat Prioritas Anda agar sesuai dengan pola lalu lintas aktual Anda membantu Anda memaksimalkan pemanfaatan token yang dibeli.

​
Model yang didukung

Tingkat Prioritas didukung oleh:
  • Claude Opus 4.1
  • Claude Opus 4
  • Claude Sonnet 4
  • Claude Sonnet 3.7
  • Claude Haiku 3.5
Periksa halaman ringkasan model untuk detail lebih lanjut tentang model kami.

​
Cara mengakses Tingkat Prioritas

Untuk mulai menggunakan Tingkat Prioritas:
  1. Hubungi penjualan untuk menyelesaikan penyediaan
  2. (Opsional) Perbarui permintaan API Anda untuk secara opsional menetapkan parameter service_tier ke auto
  3. Pantau penggunaan Anda melalui header respons dan Konsol Claude