Saltar al contenido principal

Descripción general

Opik puede registrar llamadas de TokenLab envolviendo un cliente de OpenAI que apunte al endpoint compatible con OpenAI de TokenLab.
Tipo: ObservabilidadRuta principal: Wrapper de rastreo del SDK de OpenAINivel de soporte: Ruta de rastreo compatible con OpenAI soportada

Instalación

pip install opik openai

Entorno

export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"

Envolver el cliente de OpenAI

import os

from openai import OpenAI
from opik.integrations.openai import track_openai

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

openai_client = track_openai(client)

Registrar una finalización de chat (Chat Completion)

completion = openai_client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[
        {"role": "user", "content": "Summarize why LLM observability matters."}
    ],
)

print(completion.choices[0].message.content)

Notas sobre el endpoint

Esta configuración rastrea la ruta del SDK compatible con OpenAI. Si utiliza endpoints nativos de TokenLab fuera del SDK de OpenAI, instrumente ese cliente o flujo de trabajo por separado.