Gambaran Umum
AutoGen dapat menggunakan TokenLab melalui OpenAIChatCompletionClient, jalur klien yang kompatibel dengan OpenAI yang sama seperti yang digunakannya untuk endpoint Chat Completions kustom lainnya.
Tipe: Kerangka Kerja Agen (Agent Framework)Jalur Utama: Chat completions yang kompatibel dengan OpenAITingkat Dukungan: Jalur endpoint kustom yang didukung
Instalasi
pip install -U autogen-agentchat "autogen-ext[openai]" pyyaml
Lingkungan
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
Konfigurasi Model YAML
Gunakan endpoint /v1 milik TokenLab sebagai base_url:
provider: autogen_ext.models.openai.OpenAIChatCompletionClient
config:
model: claude-sonnet-5
base_url: https://api.tokenlab.sh/v1
api_key: ${TOKENLAB_API_KEY}
model_info:
function_calling: true
json_output: true
vision: false
family: claude
Klien Python
import os
from autogen_agentchat.agents import AssistantAgent
from autogen_ext.models.openai import OpenAIChatCompletionClient
model_client = OpenAIChatCompletionClient(
model="claude-sonnet-5",
base_url="https://api.tokenlab.sh/v1",
api_key=os.environ["TOKENLAB_API_KEY"],
model_info={
"function_calling": True,
"json_output": True,
"vision": False,
"family": "claude",
},
)
agent = AssistantAgent("assistant", model_client=model_client)
Catatan Endpoint
Ekstensi OpenAI AutoGen mengharapkan bentuk permintaan yang kompatibel dengan OpenAI. Untuk fitur bawaan penyedia seperti Anthropic Messages atau Gemini generateContent, gunakan endpoint asli TokenLab dari klien yang mendukung protokol tersebut secara langsung.
