Prompt flow - TokenLab

개요

Prompt flow의 OpenAI 연결은 사용자 지정 base_url을 지원합니다. 이를 TokenLab의 /v1 엔드포인트로 설정하고 플로우에서 TokenLab 모델 ID를 사용하세요.

유형: 플로우 빌더 및 평가 플랫폼기본 경로: OpenAI 호환 Chat Completions지원 신뢰도: 지원되는 OpenAI 호환 경로

연결 생성

pf connection create \
  --file ./my_chatbot/openai.yaml \
  --set api_key=sk-your-tokenlab-key base_url=https://api.tokenlab.sh/v1 \
  --name open_ai_connection

플로우 참고 사항

flow.dag.yaml에서 연결 이름을 위 명령과 일치하도록 유지하세요:

connection: open_ai_connection
deployment_name: claude-sonnet-5

일부 Prompt flow 템플릿은 동일한 템플릿이 Azure OpenAI 배포도 지원하기 때문에 이 값을 deployment_name이라고 부릅니다. TokenLab의 경우 TokenLab 모델 ID를 사용하세요.

엔드포인트 참고 사항

이 통합은 Prompt flow의 OpenAI 호환 연결을 사용합니다. 네이티브 TokenLab 응답, Anthropic 메시지 및 Gemini 경로는 Prompt flow 도구 또는 해당 엔드포인트를 직접 호출하는 사용자 지정 Python 노드가 필요합니다.

Guardrails Promptfoo