Gambaran Umum
OpenLIT menginstrumentasi SDK OpenAI resmi, sehingga permintaan TokenLab dapat dipantau dengan mengonfigurasi klien SDK menggunakan URL dasar /v1 milik TokenLab.
Tipe: ObservabilitasJalur Utama: Instrumentasi SDK OpenAITingkat Dukungan: Jalur observabilitas yang kompatibel dengan OpenAI didukung
Instalasi
pip install openlit openai
Lingkungan
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
Contoh
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)
Catatan Endpoint
OpenLIT mengikuti jalur instrumentasi SDK. Chat Completions adalah antarmuka integrasi yang paling aman; panggilan asli TokenLab lainnya bergantung pada apakah pengaturan OpenLIT/OpenTelemetry Anda menangkap metode SDK atau klien HTTP tersebut.
