메인 콘텐츠로 건너뛰기

​
개요

이 엔드포인트는 TokenLab의 OpenAI 호환 배치 API의 일부입니다. 배치 작업은 업로드된 JSONL 파일을 사용하며 비동기적으로 실행되며, 나중에 출력/오류 파일을 반환할 수 있습니다.

​
주의사항

  • 배치 입력 파일은 purpose=batch를 사용해야 합니다.
  • completion_window는 현재 24h입니다.
  • 출력 순서는 보장되지 않으며, 항상 custom_id로 일치시켜야 합니다.
  • 배치 항목 내에서 스트리밍은 지원되지 않습니다.

​
예시

curl -X GET "https://api.tokenlab.sh/v1/batches/batch_abc123" \
  -H "Authorization: Bearer sk-your-api-key"

​
요청 / 응답

정확한 스키마를 위해 위의 대화형 OpenAPI 패널을 사용하세요.

​
운영 팁

  • 멱등성 있는 하류 조정을 위해 custom_id를 사용하세요.
  • 작업자가 배치를 완료한 후에만 output_file_id 및 error_file_id를 기대하세요.
  • 배치 가격은 isBatchRequest=true 할인 규칙이 적용되기 때문에 동기 가격과 다를 수 있습니다.

​
응답 예시

{
  "id": "batch_abc123",
  "object": "batch",
  "status": "completed",
  "input_file_id": "file_abc123",
  "output_file_id": "file_out123",
  "error_file_id": null,
  "request_counts": { "total": 100, "completed": 98, "failed": 2 }
}

​
중요 필드

​
request_counts
object
이 응답에서 반환되는 목록 또는 payload입니다.
​
output_file_id
string|null
관련 API에서 사용하는 file identifier입니다.
​
error_file_id
string|null
관련 API에서 사용하는 file identifier입니다.