Pydantic AI - TokenLab

Aperçu

Pydantic AI peut utiliser TokenLab avec OpenAIChatModel et OpenAIProvider(base_url=...).

Type : Framework d’agentChemin principal : Complétions de chat compatibles avec OpenAINiveau de support : Chemin de fournisseur compatible avec OpenAI pris en charge

Environnement

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Agent de base

import os

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "claude-sonnet-5",
    provider=OpenAIProvider(
        base_url="https://api.tokenlab.sh/v1",
        api_key=os.environ["TOKENLAB_API_KEY"],
    ),
)

agent = Agent(model)
result = agent.run_sync("Explain one benefit of OpenAI-compatible gateways.")
print(result.output)

Outils

from pydantic_ai import Agent, RunContext

agent = Agent(model)

@agent.tool
def lookup_status(ctx: RunContext[None], service: str) -> str:
    return f"{service} is online"

result = agent.run_sync("Check the TokenLab status.")
print(result.output)

Notes sur les endpoints

Ce chemin cible la classe de modèle OpenAI Chat Completions de Pydantic AI. Pour un comportement de protocole natif aux réponses ou au fournisseur, choisissez un chemin client qui expose directement ce protocole.