Die Message Batches API unterstützt dieselben Funktionen wie die Messages API. Während sich diese Seite darauf konzentriert, wie die Message Batches API verwendet wird, siehe Messages API Beispiele für Beispiele der Messages API Funktionen.

​
Erstellen eines Message Batch

import anthropic
from anthropic.types.message_create_params import MessageCreateParamsNonStreaming
from anthropic.types.messages.batch_create_params import Request

client = anthropic.Anthropic()

message_batch = client.messages.batches.create(
    requests=[
        Request(
            custom_id="my-first-request",
            params=MessageCreateParamsNonStreaming(
                model="claude-sonnet-4-5",
                max_tokens=1024,
                messages=[{
                    "role": "user",
                    "content": "Hello, world",
                }]
            )
        ),
        Request(
            custom_id="my-second-request",
            params=MessageCreateParamsNonStreaming(
                model="claude-sonnet-4-5",
                max_tokens=1024,
                messages=[{
                    "role": "user",
                    "content": "Hi again, friend",
                }]
            )
        )
    ]
)
print(message_batch)
JSON
{
  "id": "msgbatch_013Zva2CMHLNnXjNJJKqJ2EF",
  "type": "message_batch",
  "processing_status": "in_progress",
  "request_counts": {
    "processing": 2,
    "succeeded": 0,
    "errored": 0,
    "canceled": 0,
    "expired": 0
  },
  "ended_at": null,
  "created_at": "2024-09-24T18:37:24.100435Z",
  "expires_at": "2024-09-25T18:37:24.100435Z",
  "cancel_initiated_at": null,
  "results_url": null
}

​
Abfragen auf Message Batch Fertigstellung

Um einen Message Batch abzufragen, benötigen Sie dessen id, die in der Antwort beim Erstellen der Anfrage oder beim Auflisten von Batches bereitgestellt wird. Beispiel id: msgbatch_013Zva2CMHLNnXjNJJKqJ2EF. 
import anthropic

client = anthropic.Anthropic()

message_batch = None
while True:
    message_batch = client.messages.batches.retrieve(
        MESSAGE_BATCH_ID
    )
    if message_batch.processing_status == "ended":
        break
              
    print(f"Batch {MESSAGE_BATCH_ID} wird noch verarbeitet...")
    time.sleep(60)
print(message_batch)

​
Auflisten aller Message Batches in einem Workspace

import anthropic

client = anthropic.Anthropic()

# Lädt automatisch weitere Seiten nach Bedarf.
for message_batch in client.messages.batches.list(
    limit=20
):
    print(message_batch)
Output
{
  "id": "msgbatch_013Zva2CMHLNnXjNJJKqJ2EF",
  "type": "message_batch",
  ...
}
{
  "id": "msgbatch_01HkcTjaV5uDC8jWR4ZsDV8d",
  "type": "message_batch",
  ...
}

​
Abrufen von Message Batch Ergebnissen

Sobald Ihr Message Batch Status ended ist, können Sie die results_url des Batches einsehen und Ergebnisse in Form einer .jsonl Datei abrufen. 
import anthropic

client = anthropic.Anthropic()

# Ergebnisdatei in speichereffizienten Blöcken streamen, einzeln verarbeiten
for result in client.messages.batches.results(
    MESSAGE_BATCH_ID,
):
    print(result)
Output
{
  "id": "my-second-request",
  "result": {
    "type": "succeeded",
    "message": {
      "id": "msg_018gCsTGsXkYJVqYPxTgDHBU",
      "type": "message",
      ...
    }
  }
}
{
  "custom_id": "my-first-request",
  "result": {
    "type": "succeeded",
    "message": {
      "id": "msg_01XFDUDYJgAACzvnptvVoYEL",
      "type": "message",
      ...
    }
  }
}

​
Abbrechen eines Message Batch

Unmittelbar nach dem Abbruch wird der processing_status eines Batches canceling sein. Sie können dieselbe Abfrage auf Batch-Fertigstellung Technik verwenden, um abzufragen, wann der Abbruch finalisiert ist, da abgebrochene Batches ebenfalls ended werden und Ergebnisse enthalten können. 
import anthropic

client = anthropic.Anthropic()

message_batch = client.messages.batches.cancel(
    MESSAGE_BATCH_ID,
)
print(message_batch)
JSON
{
  "id": "msgbatch_013Zva2CMHLNnXjNJJKqJ2EF",
  "type": "message_batch",
  "processing_status": "canceling",
  "request_counts": {
    "processing": 2,
    "succeeded": 0,
    "errored": 0,
    "canceled": 0,
    "expired": 0
  },
  "ended_at": null,
  "created_at": "2024-09-24T18:37:24.100435Z",
  "expires_at": "2024-09-25T18:37:24.100435Z",
  "cancel_initiated_at": "2024-09-24T18:39:03.114875Z",
  "results_url": null
}