路由映射 (Route Mapping)
快速遷移方案
OpenAI 遷移至 TokenLab
僅需將 SDK 的base_url / baseURL 變更為 https://api.tokenlab.sh/v1。若為了部署方便,可保留現有的 OpenAI API key 環境變數名稱,並在檢查 GET /v1/models 後替換模型 ID。
OpenRouter 遷移至 TokenLab
將應用程式先前使用的 OpenRouter OpenAI 相容基礎 URL 替換為https://api.tokenlab.sh/v1。移除帶有供應商前綴的模型 ID,並使用來自 /v1/models 的 TokenLab 公開模型 ID;當工作負載需要 Claude Messages 或 Gemini generateContent 時,請將其遷移至原生的 TokenLab 端點,而非強行透過 OpenAI 相容的聊天介面進行。
LiteLLM 遷移至 TokenLab
使用 LiteLLM 的custom_openai/<model> 路由,並設定 api_base: https://api.tokenlab.sh/v1。請將 LiteLLM 別名與真實的 TokenLab 模型 ID 分開,以便在不變更應用程式 Prompt 的情況下調整路由策略。
透過 TokenLab 使用 Claude Messages
將 Anthropic SDK 客戶端指向https://api.tokenlab.sh 並呼叫 messages.create。請勿在 SDK 基礎 URL 後附加 /v1;SDK 本身已包含 /v1/messages 路徑。
透過 TokenLab 使用 Gemini Native
當您的應用程式依賴 Gemini 行為時,請將 Gemini 負載保留在https://api.tokenlab.sh/v1beta/models/{model}:generateContent。Gemini 原生的 contents、parts、檔案、快取內容、函式宣告及內建工具應保留在此路由上。
OpenAI 相容遷移
GET /v1/models 驗證模型 ID。對於圖像生成,請明確傳送 model 參數並閱讀圖像指南,因為圖像模型的差異比聊天模型更大。
Anthropic 遷移
/v1/messages。除非您刻意想要變更為 OpenAI 相容行為,否則請勿透過 Chat Completions 轉換 Anthropic 專屬欄位。
Gemini 遷移
/v1beta。
媒體遷移
- 查詢
GET /v1/models?recommended_for=image|video|music|3d。 - 閱讀列表回應中的
GET /v1/models以及可用的完整GET /v1/models/{model}。 - 明確傳送
model,特別是針對圖像端點。 - 為非同步任務儲存
task_id、poll_url、端點、模型以及您自己的工作 ID。 - 透過使用記錄與
billing_transaction_id進行成本對帳,而非使用供應商的任務 ID。
生產環境部署計畫
遷移陷阱
- 若您的應用程式需要原生的 Anthropic、Gemini 或 Responses 行為,請勿將所有模型置於單一 OpenAI Chat Completions 路徑下。
- 請勿假設舊有的圖像預設值,請明確傳送
model。 - 在未檢查任務是否已建立的情況下,請勿重試非同步建立請求。
- 請勿在日誌或 UI 中暴露供應商特定的識別碼。
- 請勿使用供應商任務 ID 進行計費對帳,請使用 TokenLab 使用記錄。