Prompt flow - TokenLab

Gambaran Umum

Koneksi OpenAI pada Prompt flow mendukung base_url kustom. Atur ke endpoint /v1 TokenLab dan gunakan ID model TokenLab di dalam flow Anda.

Tipe: Platform pembuat flow dan evaluasiJalur Utama: Chat Completions yang kompatibel dengan OpenAITingkat Dukungan: Jalur yang kompatibel dengan OpenAI didukung

Membuat Koneksi

pf connection create \
  --file ./my_chatbot/openai.yaml \
  --set api_key=sk-your-tokenlab-key base_url=https://api.tokenlab.sh/v1 \
  --name open_ai_connection

Catatan Flow

Di dalam flow.dag.yaml Anda, pastikan nama koneksi selaras dengan perintah di atas:

connection: open_ai_connection
deployment_name: claude-sonnet-5

Beberapa template Prompt flow menyebut nilai ini sebagai deployment_name karena template yang sama juga mendukung deployment Azure OpenAI. Dengan TokenLab, gunakan ID model TokenLab.

Catatan Endpoint

Integrasi ini menggunakan koneksi yang kompatibel dengan OpenAI dari Prompt flow. Respons Native TokenLab, Anthropic Messages, dan rute Gemini memerlukan alat Prompt flow atau node Python kustom yang memanggil endpoint tersebut secara langsung.