LLM-Gateways bieten eine zentralisierte Proxy-Schicht zwischen Claude Code und Modellanbietern und bieten:
  • Zentralisierte Authentifizierung - Einzelner Punkt für API-Schlüsselverwaltung
  • Nutzungsverfolgung - Überwachung der Nutzung über Teams und Projekte hinweg
  • Kostenkontrollen - Implementierung von Budgets und Ratenlimits
  • Audit-Protokollierung - Verfolgung aller Modellinteraktionen für Compliance
  • Modell-Routing - Wechsel zwischen Anbietern ohne Codeänderungen

​
LiteLLM-Konfiguration

LiteLLM ist ein Drittanbieter-Proxy-Service. Anthropic befürwortet, wartet oder prüft LiteLLMs Sicherheit oder Funktionalität nicht. Diese Anleitung wird zu Informationszwecken bereitgestellt und kann veraltet sein. Verwenden Sie sie auf eigene Verantwortung.

​
Voraussetzungen

  • Claude Code auf die neueste Version aktualisiert
  • LiteLLM Proxy Server bereitgestellt und zugänglich
  • Zugang zu Claude-Modellen über Ihren gewählten Anbieter

​
Grundlegende LiteLLM-Einrichtung

Claude Code konfigurieren:

​
Authentifizierungsmethoden

Statischer API-Schlüssel
Einfachste Methode mit einem festen API-Schlüssel: 
# In der Umgebung setzen
export ANTHROPIC_AUTH_TOKEN=sk-litellm-static-key

# Oder in Claude Code-Einstellungen
{
  "env": {
    "ANTHROPIC_AUTH_TOKEN": "sk-litellm-static-key"
  }
}
Dieser Wert wird als Authorization-Header gesendet.
Dynamischer API-Schlüssel mit Helfer
Für rotierende Schlüssel oder benutzerspezifische Authentifizierung:
  1. Erstellen Sie ein API-Schlüssel-Helfer-Skript:
#!/bin/bash
# ~/bin/get-litellm-key.sh

# Beispiel: Schlüssel aus Vault abrufen
vault kv get -field=api_key secret/litellm/claude-code

# Beispiel: JWT-Token generieren
jwt encode \
  --secret="${JWT_SECRET}" \
  --exp="+1h" \
  '{"user":"'${USER}'","team":"engineering"}'
  1. Konfigurieren Sie Claude Code-Einstellungen zur Verwendung des Helfers:
{
  "apiKeyHelper": "~/bin/get-litellm-key.sh"
}
  1. Token-Aktualisierungsintervall festlegen:
# Jede Stunde aktualisieren (3600000 ms)
export CLAUDE_CODE_API_KEY_HELPER_TTL_MS=3600000
Dieser Wert wird als Authorization- und X-Api-Key-Header gesendet. Der apiKeyHelper hat niedrigere Priorität als ANTHROPIC_AUTH_TOKEN oder ANTHROPIC_API_KEY.

​
Einheitlicher Endpunkt (empfohlen)

Verwendung von LiteLLMs Anthropic-Format-Endpunkt: 
export ANTHROPIC_BASE_URL=https://litellm-server:4000
Vorteile des einheitlichen Endpunkts gegenüber Pass-Through-Endpunkten:
  • Lastverteilung
  • Fallbacks
  • Konsistente Unterstützung für Kostenverfolgung und Endbenutzer-Verfolgung

​
Anbieterspezifische Pass-Through-Endpunkte (Alternative)

Claude API über LiteLLM
Verwendung des Pass-Through-Endpunkts: 
export ANTHROPIC_BASE_URL=https://litellm-server:4000/anthropic
Amazon Bedrock über LiteLLM
Verwendung des Pass-Through-Endpunkts: 
export ANTHROPIC_BEDROCK_BASE_URL=https://litellm-server:4000/bedrock
export CLAUDE_CODE_SKIP_BEDROCK_AUTH=1
export CLAUDE_CODE_USE_BEDROCK=1
Google Vertex AI über LiteLLM
Verwendung des Pass-Through-Endpunkts: 
export ANTHROPIC_VERTEX_BASE_URL=https://litellm-server:4000/vertex_ai/v1
export ANTHROPIC_VERTEX_PROJECT_ID=your-gcp-project-id
export CLAUDE_CODE_SKIP_VERTEX_AUTH=1
export CLAUDE_CODE_USE_VERTEX=1
export CLOUD_ML_REGION=us-east5

​
Modellauswahl

Standardmäßig verwenden die Modelle diejenigen, die in der Modellkonfiguration angegeben sind. Wenn Sie benutzerdefinierte Modellnamen in LiteLLM konfiguriert haben, setzen Sie die oben genannten Umgebungsvariablen auf diese benutzerdefinierten Namen. Für detailliertere Informationen verweisen Sie auf die LiteLLM-Dokumentation.

​
Zusätzliche Ressourcen