Saltar para o conteúdo principal

​
Visão geral

A conexão OpenAI do Prompt flow suporta um base_url personalizado. Defina-o para o endpoint /v1 do TokenLab e utilize os IDs de modelo do TokenLab em seu fluxo.
Tipo: Plataforma de construção de fluxo e avaliaçãoCaminho principal: Chat Completions compatíveis com OpenAINível de suporte: Caminho compatível com OpenAI suportado

​
Criar uma conexão

pf connection create \
  --file ./my_chatbot/openai.yaml \
  --set api_key=sk-your-tokenlab-key base_url=https://api.tokenlab.sh/v1 \
  --name open_ai_connection

​
Notas sobre o fluxo

Em seu flow.dag.yaml, mantenha o nome da conexão alinhado com o comando acima: 
connection: open_ai_connection
deployment_name: claude-sonnet-5
Alguns modelos do Prompt flow chamam este valor de deployment_name porque os mesmos modelos também suportam deployments do Azure OpenAI. Com o TokenLab, utilize o ID do modelo do TokenLab.

​
Notas sobre o endpoint

Esta integração utiliza a conexão compatível com OpenAI do Prompt flow. Respostas nativas do TokenLab, Anthropic Messages e rotas do Gemini exigem ferramentas do Prompt flow ou nós Python personalizados que chamem esses endpoints diretamente.