Descripción general
OpenLIT instrumenta los SDK oficiales de OpenAI, por lo que las solicitudes de TokenLab pueden ser monitoreadas configurando el cliente del SDK con la URL base /v1 de TokenLab.
Tipo: ObservabilidadRuta principal: Instrumentación del SDK de OpenAINivel de confianza: Ruta de observabilidad compatible con OpenAI soportada
Instalación
pip install openlit openai
Entorno
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
Ejemplo
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)
Notas sobre los endpoints
OpenLIT sigue la ruta de instrumentación del SDK. Chat Completions es la superficie de integración más segura; otras llamadas nativas de TokenLab dependen de si su configuración de OpenLIT/OpenTelemetry captura ese método del SDK o cliente HTTP.
