Zum Hauptinhalt springen

Übersicht

Dieser Endpunkt ist Teil der OpenAI-kompatiblen Batch-API von TokenLab. Batch-Jobs verwenden hochgeladene JSONL-Dateien, laufen asynchron und können später Ausgabedateien/Fehlerdateien zurückgeben.

Hinweise

  • Batch-Eingabedateien müssen purpose=batch verwenden.
  • completion_window beträgt derzeit 24h.
  • Die Ausgabereihenfolge ist nicht garantiert; immer nach custom_id abgleichen.
  • Streaming wird innerhalb von Batch-Elementen nicht unterstützt.

Beispiel

curl -X GET "https://api.tokenlab.sh/v1/batches/batch_abc123" \
  -H "Authorization: Bearer sk-your-api-key"

Anfrage / Antwort

Verwenden Sie das interaktive OpenAPI-Panel oben für das genaue Schema.

Betriebliche Tipps

  • Verwenden Sie custom_id für idempotente nachgelagerte Abgleiche.
  • Erwarten Sie output_file_id und error_file_id erst, nachdem der Worker den Batch abgeschlossen hat.
  • Die Preisgestaltung für Batches kann von der synchronen Preisgestaltung abweichen, da die Rabattregeln für isBatchRequest=true gelten.

Antwortbeispiel

{
  "id": "batch_abc123",
  "object": "batch",
  "status": "completed",
  "input_file_id": "file_abc123",
  "output_file_id": "file_out123",
  "error_file_id": null,
  "request_counts": { "total": 100, "completed": 98, "failed": 2 }
}

Wichtige Felder

request_counts
object
Zurückgegebene Liste oder Payload dieser Antwort.
output_file_id
string|null
Dateikennung für verwandte APIs.
error_file_id
string|null
Dateikennung für verwandte APIs.