Zum Hauptinhalt springen

Übersicht

Pydantic AI kann TokenLab mit OpenAIChatModel und OpenAIProvider(base_url=...) verwenden.
Typ: Agent FrameworkPrimärer Pfad: OpenAI-kompatible Chat-CompletionsSupport-Status: Unterstützter OpenAI-kompatibler Provider-Pfad

Umgebung

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Basis-Agent

import os

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "claude-sonnet-5",
    provider=OpenAIProvider(
        base_url="https://api.tokenlab.sh/v1",
        api_key=os.environ["TOKENLAB_API_KEY"],
    ),
)

agent = Agent(model)
result = agent.run_sync("Explain one benefit of OpenAI-compatible gateways.")
print(result.output)

Tools

from pydantic_ai import Agent, RunContext

agent = Agent(model)

@agent.tool
def lookup_status(ctx: RunContext[None], service: str) -> str:
    return f"{service} is online"

result = agent.run_sync("Check the TokenLab status.")
print(result.output)

Hinweise zu Endpunkten

Dieser Pfad zielt auf die OpenAI Chat Completions Modellklasse von Pydantic AI ab. Für ein Responses-natives oder Provider-natives Protokollverhalten wählen Sie einen Client-Pfad, der dieses Protokoll direkt bereitstellt.