Criar Lote

​

Visão Geral

​

Observações

• Arquivos de entrada em lote devem usar purpose=batch.
• completion_window é atualmente 24h.
• A ordenação da saída não é garantida; sempre combine pelo custom_id.
• Streaming não é suportado dentro dos itens de lote.
• Os endpoints de item de lote atualmente compatíveis são /v1/chat/completions e /v1/embeddings; trabalhos em lote de /v1/responses são rejeitados até que um executor nativo de lotes Responses esteja disponível.

​

Exemplo

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

​

Solicitação / Resposta

​

Dicas Operacionais

• Use custom_id para reconciliação idempotente a montante.
• Espere output_file_id e error_file_id apenas após o trabalhador finalizar o lote.
• A precificação de lote pode diferir da precificação síncrona porque as regras de desconto isBatchRequest=true se aplicam.

​

Exemplo de resposta

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

​

Campos importantes