AutoGen - TokenLab

Gambaran Umum

AutoGen dapat menggunakan TokenLab melalui OpenAIChatCompletionClient, jalur klien yang kompatibel dengan OpenAI yang sama seperti yang digunakannya untuk endpoint Chat Completions kustom lainnya.

Tipe: Kerangka Kerja Agen (Agent Framework)Jalur Utama: Chat completions yang kompatibel dengan OpenAITingkat Dukungan: Jalur endpoint kustom yang didukung

Instalasi

pip install -U autogen-agentchat "autogen-ext[openai]" pyyaml

Lingkungan

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Konfigurasi Model YAML

Gunakan endpoint /v1 milik TokenLab sebagai base_url:

provider: autogen_ext.models.openai.OpenAIChatCompletionClient
config:
  model: claude-sonnet-5
  base_url: https://api.tokenlab.sh/v1
  api_key: ${TOKENLAB_API_KEY}
  model_info:
    function_calling: true
    json_output: true
    vision: false
    family: claude

Klien Python

import os

from autogen_agentchat.agents import AssistantAgent
from autogen_ext.models.openai import OpenAIChatCompletionClient

model_client = OpenAIChatCompletionClient(
    model="claude-sonnet-5",
    base_url="https://api.tokenlab.sh/v1",
    api_key=os.environ["TOKENLAB_API_KEY"],
    model_info={
        "function_calling": True,
        "json_output": True,
        "vision": False,
        "family": "claude",
    },
)

agent = AssistantAgent("assistant", model_client=model_client)

Catatan Endpoint

Ekstensi OpenAI AutoGen mengharapkan bentuk permintaan yang kompatibel dengan OpenAI. Untuk fitur bawaan penyedia seperti Anthropic Messages atau Gemini generateContent, gunakan endpoint asli TokenLab dari klien yang mendukung protokol tersebut secara langsung.