Passer au contenu principal

Aperçu

La connexion OpenAI de Prompt flow prend en charge un base_url personnalisé. Définissez-le sur le point de terminaison /v1 de TokenLab et utilisez les ID de modèle TokenLab dans votre flux.
Type : Constructeur de flux et plateforme d’évaluationChemin principal : Chat Completions compatibles avec OpenAINiveau de prise en charge : Chemin compatible avec OpenAI pris en charge

Créer une connexion

pf connection create \
  --file ./my_chatbot/openai.yaml \
  --set api_key=sk-your-tokenlab-key base_url=https://api.tokenlab.sh/v1 \
  --name open_ai_connection

Remarques sur le flux

Dans votre flow.dag.yaml, assurez-vous que le nom de la connexion correspond à la commande ci-dessus :
connection: open_ai_connection
deployment_name: claude-sonnet-5
Certains modèles Prompt flow appellent cette valeur deployment_name car les mêmes modèles prennent également en charge les déploiements Azure OpenAI. Avec TokenLab, utilisez l’ID de modèle TokenLab.

Remarques sur les points de terminaison

Cette intégration utilise la connexion compatible OpenAI de Prompt flow. Les réponses natives TokenLab, les messages Anthropic et les routes Gemini nécessitent des outils Prompt flow ou des nœuds Python personnalisés qui appellent directement ces points de terminaison.