跳转到主要内容

​
概述

AutoGen 可以通过 OpenAIChatCompletionClient 使用 TokenLab，这与它用于其他自定义 Chat Completions 端点的 OpenAI 兼容客户端路径相同。
类型: 智能体框架 (Agent Framework)主要路径: OpenAI 兼容的聊天补全 (Chat Completions)支持置信度: 支持的自定义端点路径

​
安装

pip install -U autogen-agentchat "autogen-ext[openai]" pyyaml

​
环境

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

​
YAML 模型配置

将 TokenLab 的 /v1 端点用作 base_url： 
provider: autogen_ext.models.openai.OpenAIChatCompletionClient
config:
  model: claude-sonnet-5
  base_url: https://api.tokenlab.sh/v1
  api_key: ${TOKENLAB_API_KEY}
  model_info:
    function_calling: true
    json_output: true
    vision: false
    family: claude

​
Python 客户端

import os

from autogen_agentchat.agents import AssistantAgent
from autogen_ext.models.openai import OpenAIChatCompletionClient

model_client = OpenAIChatCompletionClient(
    model="claude-sonnet-5",
    base_url="https://api.tokenlab.sh/v1",
    api_key=os.environ["TOKENLAB_API_KEY"],
    model_info={
        "function_calling": True,
        "json_output": True,
        "vision": False,
        "family": "claude",
    },
)

agent = AssistantAgent("assistant", model_client=model_client)

​
端点注意事项

AutoGen 的 OpenAI 扩展期望使用 OpenAI 兼容的请求格式。对于 Anthropic Messages 或 Gemini generateContent 等提供商原生功能，请使用直接支持这些协议的客户端调用 TokenLab 的原生端点。