OpenLIT 對官方 OpenAI SDK 進行了檢測(instrumentation),因此可以透過將 SDK 客戶端配置為 TokenLab 的 /v1 基礎 URL 來監控 TokenLab 請求。
類型: 可觀測性 (Observability)主要路徑: OpenAI SDK 檢測支援信心: 支援的 OpenAI 相容可觀測性路徑
pip install openlit openai
環境變數
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)
端點注意事項
OpenLIT 遵循 SDK 檢測路徑。Chat Completions 是最安全的整合介面;其他 TokenLab 原生呼叫取決於您的 OpenLIT/OpenTelemetry 設定是否捕捉該 SDK 方法或 HTTP 客戶端。