Saltar al contenido principal

Descripción general

La conexión de OpenAI en Prompt flow admite un base_url personalizado. Configúrelo en el endpoint /v1 de TokenLab y utilice los ID de modelo de TokenLab en su flujo.
Tipo: Plataforma de creación y evaluación de flujosRuta principal: Chat Completions compatibles con OpenAINivel de soporte: Ruta compatible con OpenAI admitida

Crear una conexión

pf connection create \
  --file ./my_chatbot/openai.yaml \
  --set api_key=sk-your-tokenlab-key base_url=https://api.tokenlab.sh/v1 \
  --name open_ai_connection

Notas sobre el flujo

En su archivo flow.dag.yaml, mantenga el nombre de la conexión alineado con el comando anterior:
connection: open_ai_connection
deployment_name: claude-sonnet-5
Algunas plantillas de Prompt flow denominan a este valor deployment_name porque las mismas plantillas también admiten despliegues de Azure OpenAI. Con TokenLab, utilice el ID de modelo de TokenLab.

Notas sobre el endpoint

Esta integración utiliza la conexión compatible con OpenAI de Prompt flow. Las respuestas nativas de TokenLab, los mensajes de Anthropic y las rutas de Gemini requieren herramientas de Prompt flow o nodos de Python personalizados que llamen a esos endpoints directamente.