Pydantic AI - TokenLab

Gambaran Umum

Pydantic AI dapat menggunakan TokenLab dengan OpenAIChatModel dan OpenAIProvider(base_url=...).

Tipe: Kerangka Kerja Agen (Agent Framework)Jalur Utama: Penyelesaian chat (chat completions) yang kompatibel dengan OpenAITingkat Keyakinan Dukungan: Jalur penyedia yang kompatibel dengan OpenAI didukung

Lingkungan

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Agen Dasar

import os

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "claude-sonnet-5",
    provider=OpenAIProvider(
        base_url="https://api.tokenlab.sh/v1",
        api_key=os.environ["TOKENLAB_API_KEY"],
    ),
)

agent = Agent(model)
result = agent.run_sync("Explain one benefit of OpenAI-compatible gateways.")
print(result.output)

Alat

from pydantic_ai import Agent, RunContext

agent = Agent(model)

@agent.tool
def lookup_status(ctx: RunContext[None], service: str) -> str:
    return f"{service} is online"

result = agent.run_sync("Check the TokenLab status.")
print(result.output)

Catatan Endpoint

Jalur ini menargetkan kelas model OpenAI Chat Completions milik Pydantic AI. Untuk perilaku protokol Responses-native atau yang bersifat native dari penyedia, pilih jalur klien yang mengekspos protokol tersebut secara langsung.