Pydantic AI - TokenLab

概覽

Pydantic AI 可以透過 OpenAIChatModel 和 OpenAIProvider(base_url=...) 使用 TokenLab。

類型: Agent 框架主要路徑: OpenAI 相容的聊天補全 (Chat Completions)支援信心: 支援 OpenAI 相容的提供者路徑

環境設定

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

基礎 Agent

import os

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "claude-sonnet-5",
    provider=OpenAIProvider(
        base_url="https://api.tokenlab.sh/v1",
        api_key=os.environ["TOKENLAB_API_KEY"],
    ),
)

agent = Agent(model)
result = agent.run_sync("Explain one benefit of OpenAI-compatible gateways.")
print(result.output)

工具 (Tools)

from pydantic_ai import Agent, RunContext

agent = Agent(model)

@agent.tool
def lookup_status(ctx: RunContext[None], service: str) -> str:
    return f"{service} is online"

result = agent.run_sync("Check the TokenLab status.")
print(result.output)

端點注意事項

此路徑針對 Pydantic AI 的 OpenAI Chat Completions 模型類別。若需要 Responses-native 或提供者原生協定行為，請選擇直接公開該協定的客戶端路徑。