Passer au contenu principal

Aperçu

AutoGen peut utiliser TokenLab via OpenAIChatCompletionClient, le même chemin client compatible OpenAI qu’il utilise pour d’autres endpoints de Chat Completions personnalisés.
Type : Framework d’agentsChemin principal : Chat completions compatibles OpenAINiveau de support : Chemin d’endpoint personnalisé pris en charge

Installation

pip install -U autogen-agentchat "autogen-ext[openai]" pyyaml

Environnement

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Configuration du modèle YAML

Utilisez l’endpoint /v1 de TokenLab comme base_url :
provider: autogen_ext.models.openai.OpenAIChatCompletionClient
config:
  model: claude-sonnet-5
  base_url: https://api.tokenlab.sh/v1
  api_key: ${TOKENLAB_API_KEY}
  model_info:
    function_calling: true
    json_output: true
    vision: false
    family: claude

Client Python

import os

from autogen_agentchat.agents import AssistantAgent
from autogen_ext.models.openai import OpenAIChatCompletionClient

model_client = OpenAIChatCompletionClient(
    model="claude-sonnet-5",
    base_url="https://api.tokenlab.sh/v1",
    api_key=os.environ["TOKENLAB_API_KEY"],
    model_info={
        "function_calling": True,
        "json_output": True,
        "vision": False,
        "family": "claude",
    },
)

agent = AssistantAgent("assistant", model_client=model_client)

Remarques sur les endpoints

L’extension OpenAI d’AutoGen attend la structure de requête compatible OpenAI. Pour les fonctionnalités natives des fournisseurs telles que Anthropic Messages ou Gemini generateContent, utilisez les endpoints natifs de TokenLab à partir d’un client qui prend directement en charge ces protocoles.