Zum Hauptinhalt springen

Übersicht

Opik kann TokenLab-Aufrufe protokollieren, indem ein OpenAI-Client umschlossen wird, der auf den OpenAI-kompatiblen Endpunkt von TokenLab verweist.
Typ: ObservabilityPrimärer Pfad: OpenAI SDK Tracing-WrapperSupport-Status: Unterstützter OpenAI-kompatibler Tracing-Pfad

Installation

pip install opik openai

Umgebung

export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"

Den OpenAI-Client umschließen

import os

from openai import OpenAI
from opik.integrations.openai import track_openai

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

openai_client = track_openai(client)

Eine Chat-Completion protokollieren

completion = openai_client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[
        {"role": "user", "content": "Summarize why LLM observability matters."}
    ],
)

print(completion.choices[0].message.content)

Hinweise zu Endpunkten

Dieses Setup verfolgt den OpenAI-kompatiblen SDK-Pfad. Wenn Sie native TokenLab-Endpunkte außerhalb des OpenAI SDK verwenden, instrumentieren Sie diesen Client oder Workflow separat.