Aperçu
OpenLIT instrumente les SDK officiels d’OpenAI, permettant ainsi de surveiller les requêtes TokenLab en configurant le client SDK avec l’URL de base /v1 de TokenLab.
Type : ObservabilitéChemin principal : Instrumentation du SDK OpenAINiveau de support : Chemin d’observabilité compatible avec OpenAI pris en charge
Installation
pip install openlit openai
Environnement
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
Exemple
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)
Remarques sur les endpoints
OpenLIT suit le chemin d’instrumentation du SDK. Les Chat Completions constituent la surface d’intégration la plus sûre ; les autres appels natifs à TokenLab dépendent de la capacité de votre configuration OpenLIT/OpenTelemetry à capturer cette méthode SDK ou ce client HTTP.