Prompt flow - TokenLab

概述

Prompt flow 的 OpenAI 连接支持自定义 base_url。将其设置为 TokenLab 的 /v1 端点，并在你的 flow 中使用 TokenLab 模型 ID。

类型: Flow 构建器和评估平台主要路径: 兼容 OpenAI 的 Chat Completions支持置信度: 支持兼容 OpenAI 的路径

创建连接

pf connection create \
  --file ./my_chatbot/openai.yaml \
  --set api_key=sk-your-tokenlab-key base_url=https://api.tokenlab.sh/v1 \
  --name open_ai_connection

Flow 注意事项

在你的 flow.dag.yaml 中，保持连接名称与上述命令一致：

connection: open_ai_connection
deployment_name: claude-sonnet-5

一些 Prompt flow 模板将此值称为 deployment_name，因为相同的模板也支持 Azure OpenAI 部署。对于 TokenLab，请使用 TokenLab 模型 ID。

端点注意事项

此集成使用 Prompt flow 的兼容 OpenAI 连接。原生的 TokenLab 响应、Anthropic Messages 和 Gemini 路由需要使用 Prompt flow 工具或直接调用这些端点的自定义 Python 节点。

Guardrails Promptfoo