OpenLIT - TokenLab

Tổng quan

OpenLIT thực hiện instrumentation cho các SDK chính thức của OpenAI, nhờ đó các yêu cầu TokenLab có thể được giám sát bằng cách cấu hình SDK client với base URL /v1 của TokenLab.

Loại: Khả năng quan sát (Observability)Đường dẫn chính: Instrumentation SDK OpenAIĐộ tin cậy hỗ trợ: Đường dẫn khả năng quan sát tương thích với OpenAI được hỗ trợ

Cài đặt

pip install openlit openai

Môi trường

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Ví dụ

import os

import openlit
from openai import OpenAI

openlit.init()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)

Lưu ý về Endpoint

OpenLIT tuân theo đường dẫn instrumentation của SDK. Chat Completions là bề mặt tích hợp an toàn nhất; các lệnh gọi native khác của TokenLab phụ thuộc vào việc thiết lập OpenLIT/OpenTelemetry của bạn có nắm bắt được phương thức SDK hoặc HTTP client đó hay không.