OpenLIT - TokenLab

Visão Geral

O OpenLIT instrumenta os SDKs oficiais da OpenAI, permitindo que as requisições do TokenLab sejam monitoradas ao configurar o cliente do SDK com a URL base /v1 do TokenLab.

Tipo: ObservabilidadeCaminho Principal: Instrumentação do SDK da OpenAINível de Suporte: Caminho de observabilidade compatível com OpenAI suportado

Instalação

pip install openlit openai

Ambiente

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Exemplo

import os

import openlit
from openai import OpenAI

openlit.init()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)

Notas sobre os Endpoints

O OpenLIT segue o caminho de instrumentação do SDK. O Chat Completions é a superfície de integração mais segura; outras chamadas nativas do TokenLab dependem se a sua configuração de OpenLIT/OpenTelemetry captura esse método do SDK ou cliente HTTP.