OpenLIT - TokenLab

개요

OpenLIT은 공식 OpenAI SDK를 계측하므로, SDK 클라이언트를 TokenLab의 /v1 베이스 URL로 구성하여 TokenLab 요청을 모니터링할 수 있습니다.

유형: 관측성(Observability)기본 경로: OpenAI SDK 계측지원 신뢰도: 지원되는 OpenAI 호환 관측성 경로

설치

pip install openlit openai

환경 설정

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

예제

import os

import openlit
from openai import OpenAI

openlit.init()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)

엔드포인트 참고 사항

OpenLIT은 SDK 계측 경로를 따릅니다. Chat Completions는 가장 안전한 통합 인터페이스이며, 다른 TokenLab 네이티브 호출은 사용 중인 OpenLIT/OpenTelemetry 설정이 해당 SDK 메서드나 HTTP 클라이언트를 캡처하는지 여부에 따라 달라집니다.