Saltar al contenido principal

​
Descripción General

Este endpoint es parte de la API de Lotes compatible con OpenAI de TokenLab. Los trabajos por lotes utilizan archivos JSONL subidos, se ejecutan de manera asíncrona y pueden devolver archivos de salida/error más tarde.

​
Notas

  • Los archivos de entrada por lotes deben usar purpose=batch.
  • completion_window es actualmente 24h.
  • El orden de salida no está garantizado; siempre coincida por custom_id.
  • La transmisión no es compatible dentro de los elementos del lote.
  • Los endpoints de elementos de lote admitidos actualmente son /v1/chat/completions y /v1/embeddings; los trabajos por lotes de /v1/responses se rechazan hasta que esté disponible un ejecutor de lotes nativo de Responses.

​
Ejemplo

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

​
Solicitud / Respuesta

Utilice el panel interactivo de OpenAPI arriba para el esquema exacto.

​
Consejos Operativos

  • Use custom_id para la reconciliación idempotente en downstream.
  • Espere output_file_id y error_file_id solo después de que el trabajador finalice el lote.
  • La fijación de precios por lotes puede diferir de la fijación de precios sincrónica porque se aplican las reglas de descuento isBatchRequest=true.

​
Ejemplo de respuesta

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

​
Campos importantes

​
id
string
Identificador para llamadas posteriores y soporte.
​
status
string
Estado actual del ciclo de vida de este recurso.
​
output_file_id
string|null
Identificador de archivo usado por APIs relacionadas.