Prompt flow - TokenLab

Übersicht

Die OpenAI-Verbindung von Prompt flow unterstützt eine benutzerdefinierte base_url. Setzen Sie diese auf den /v1-Endpunkt von TokenLab und verwenden Sie TokenLab-Modell-IDs in Ihrem Flow.

Typ: Flow-Builder und EvaluierungsplattformPrimärer Pfad: OpenAI-kompatible Chat CompletionsSupport-Status: Unterstützter OpenAI-kompatibler Pfad

Eine Verbindung erstellen

pf connection create \
  --file ./my_chatbot/openai.yaml \
  --set api_key=sk-your-tokenlab-key base_url=https://api.tokenlab.sh/v1 \
  --name open_ai_connection

Hinweise zum Flow

Stellen Sie in Ihrer flow.dag.yaml sicher, dass der Verbindungsname mit dem obigen Befehl übereinstimmt:

connection: open_ai_connection
deployment_name: claude-sonnet-5

Einige Prompt-flow-Vorlagen bezeichnen diesen Wert als deployment_name, da dieselben Vorlagen auch Azure OpenAI-Deployments unterstützen. Verwenden Sie bei TokenLab die TokenLab-Modell-ID.

Hinweise zum Endpunkt

Diese Integration nutzt die OpenAI-kompatible Verbindung von Prompt flow. Native TokenLab-Antworten, Anthropic-Messages und Gemini-Routen erfordern Prompt-flow-Tools oder benutzerdefinierte Python-Nodes, die diese Endpunkte direkt aufrufen.