Chuyển đến nội dung chính

Documentation Index

Fetch the complete documentation index at: https://docs.tokenlab.sh/llms.txt

Use this file to discover all available pages before exploring further.

​
Tổng quan

Endpoint này cung cấp khả năng tương thích gốc với Anthropic Messages API. Hãy sử dụng endpoint này cho các model Claude với các tính năng như extended thinking. Endpoint này giữ nguyên hợp đồng native của Anthropic. messages phải là mảng tin nhắn user / assistant, system nằm ở field cấp cao nhất system, và max_tokens là bắt buộc. Nếu payload dùng role kiểu OpenAI như system, developer, hoặc tool bên trong messages, hãy gửi sang /v1/chat/completions.
Base URL cho Anthropic SDK: https://api.tokenlab.sh (không có hậu tố /v1)

​
Header của Request

​
x-api-key
string
bắt buộc
API key TokenLab của bạn. Phương án thay thế cho Bearer token.
​
anthropic-version
string
bắt buộc
Phiên bản Anthropic API. Sử dụng 2023-06-01.

​
Body của Request

​
model
string
bắt buộc
ID model Claude (ví dụ: claude-sonnet-4-6 hoặc claude-opus-4-6).
​
messages
array
bắt buộc
Mảng các object tin nhắn với role và content.
​
max_tokens
integer
bắt buộc
Số lượng token tối đa để tạo.
​
system
string
System prompt (tách biệt với mảng messages).
​
temperature
number
mặc định:"1"
Nhiệt độ lấy mẫu (0-1).
​
stream
boolean
mặc định:"false"
Bật phản hồi dạng streaming.
​
thinking
object
Cấu hình extended thinking (Claude Opus 4.5).
  • type (string): "enabled" để bật
  • budget_tokens (integer): Ngân sách token cho thinking
​
tools
array
Các công cụ khả dụng cho model.
​
tool_choice
object
Cách model nên sử dụng công cụ. Các tùy chọn: auto, any, tool (công cụ cụ thể).
​
top_p
number
Tham số nucleus sampling. Chỉ dùng temperature hoặc top_p, không dùng cả hai.
​
top_k
integer
Chỉ lấy mẫu từ K lựa chọn hàng đầu cho mỗi token.
​
stop_sequences
array
Các chuỗi dừng tùy chỉnh sẽ khiến model ngừng tạo.
​
metadata
object
Metadata được đính kèm vào request nhằm mục đích theo dõi.

​
Phản hồi

​
id
string
Định danh duy nhất của tin nhắn.
​
type
string
Luôn là message.
​
role
string
Luôn là assistant.
​
content
array
Mảng các khối nội dung (text, thinking, tool_use).
​
model
string
Model được sử dụng.
​
stop_reason
string
Lý do việc tạo nội dung dừng lại (end_turn, max_tokens, tool_use).
​
usage
object
Mức sử dụng token với input_tokens và output_tokens.
curl -X POST "https://api.tokenlab.sh/v1/messages" \
  -H "x-api-key: sk-your-api-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-4-6",
    "max_tokens": 1024,
    "system": "You are a helpful assistant.",
    "messages": [
      {"role": "user", "content": "Hello, Claude!"}
    ]
  }'

{
  "id": "msg_abc123",
  "type": "message",
  "role": "assistant",
  "content": [
    {
      "type": "text",
      "text": "Hello! How can I help you today?"
    }
  ],
  "model": "claude-sonnet-4-6",
  "stop_reason": "end_turn",
  "usage": {
    "input_tokens": 15,
    "output_tokens": 10
  }
}

​
Ví dụ đầu vào thị giác

Với các mô hình Claude có hỗ trợ thị giác, hãy đặt hình ảnh bên trong messages[].content dưới dạng các khối ảnh có cấu trúc. 
{
  "model": "claude-sonnet-4-6",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": "Please describe this image."
        },
        {
          "type": "image",
          "source": {
            "type": "url",
            "url": "https://example.com/demo.jpg"
          }
        }
      ]
    }
  ]
}

{
  "model": "claude-sonnet-4-6",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": "Please describe this image."
        },
        {
          "type": "image",
          "source": {
            "type": "base64",
            "media_type": "image/jpeg",
            "data": "/9j/4AAQSkZJRgABAQ..."
          }
        }
      ]
    }
  ]
}

​
Ví dụ về Extended Thinking

message = client.messages.create(
    model="claude-opus-4-6",
    max_tokens=16000,
    thinking={
        "type": "enabled",
        "budget_tokens": 10000
    },
    messages=[{"role": "user", "content": "Solve this math problem..."}]
)

for block in message.content:
    if block.type == "thinking":
        print(f"Thinking: {block.thinking}")
    elif block.type == "text":
        print(f"Response: {block.text}")
```}
## Các lô tin nhắn Anthropic

TokenLab hiện cũng cung cấp luồng Anthropic Message Batches gốc bên cạnh `/v1/messages`.

Các route khả dụng:

- `POST /v1/messages/batches`
- `GET /v1/messages/batches`
- `GET /v1/messages/batches/:message_batch_id`
- `GET /v1/messages/batches/:message_batch_id/results`
- `POST /v1/messages/batches/:message_batch_id/cancel`
- `DELETE /v1/messages/batches/:message_batch_id`

Ghi chú vận hành:

- Sử dụng cùng một TokenLab API key với các header Anthropic gốc.
- Nếu batch item tham chiếu `file_id`, hãy thêm cả `anthropic-beta: files-api-2025-04-14`.
- Batch job vẫn giữ nguyên hình dạng request/response gốc của Anthropic, trong khi TokenLab theo dõi vòng đời quyết toán nội bộ của chúng.