Saltar al contenido principal

​
Descripción general

AutoGen puede utilizar TokenLab a través de OpenAIChatCompletionClient, la misma ruta de cliente compatible con OpenAI que utiliza para otros endpoints personalizados de Chat Completions.
Tipo: Marco de trabajo de agentes (Agent Framework)Ruta principal: Chat completions compatibles con OpenAINivel de soporte: Ruta de endpoint personalizado soportada

​
Instalación

pip install -U autogen-agentchat "autogen-ext[openai]" pyyaml

​
Entorno

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

​
Configuración del modelo en YAML

Utilice el endpoint /v1 de TokenLab como base_url: 
provider: autogen_ext.models.openai.OpenAIChatCompletionClient
config:
  model: claude-sonnet-5
  base_url: https://api.tokenlab.sh/v1
  api_key: ${TOKENLAB_API_KEY}
  model_info:
    function_calling: true
    json_output: true
    vision: false
    family: claude

​
Cliente de Python

import os

from autogen_agentchat.agents import AssistantAgent
from autogen_ext.models.openai import OpenAIChatCompletionClient

model_client = OpenAIChatCompletionClient(
    model="claude-sonnet-5",
    base_url="https://api.tokenlab.sh/v1",
    api_key=os.environ["TOKENLAB_API_KEY"],
    model_info={
        "function_calling": True,
        "json_output": True,
        "vision": False,
        "family": "claude",
    },
)

agent = AssistantAgent("assistant", model_client=model_client)

​
Notas sobre el endpoint

La extensión de OpenAI para AutoGen espera la estructura de solicitud compatible con OpenAI. Para funciones nativas del proveedor, como Anthropic Messages o Gemini generateContent, utilice los endpoints nativos de TokenLab desde un cliente que admita esos protocolos directamente.