Chuyển đến nội dung chính

​
Tổng quan

Kết nối OpenAI của Prompt flow hỗ trợ base_url tùy chỉnh. Hãy đặt nó thành endpoint /v1 của TokenLab và sử dụng các ID mô hình của TokenLab trong flow của bạn.
Loại: Nền tảng xây dựng flow và đánh giáĐường dẫn chính: Chat Completions tương thích với OpenAIĐộ tin cậy hỗ trợ: Đường dẫn tương thích với OpenAI được hỗ trợ

​
Tạo kết nối

pf connection create \
  --file ./my_chatbot/openai.yaml \
  --set api_key=sk-your-tokenlab-key base_url=https://api.tokenlab.sh/v1 \
  --name open_ai_connection

​
Lưu ý về Flow

Trong tệp flow.dag.yaml của bạn, hãy giữ tên kết nối khớp với lệnh ở trên: 
connection: open_ai_connection
deployment_name: claude-sonnet-5
Một số template của Prompt flow gọi giá trị này là deployment_name vì các template đó cũng hỗ trợ các triển khai Azure OpenAI. Với TokenLab, hãy sử dụng ID mô hình của TokenLab.

​
Lưu ý về Endpoint

Tích hợp này sử dụng kết nối tương thích với OpenAI của Prompt flow. Các phản hồi Native TokenLab, Anthropic Messages và các route Gemini yêu cầu các công cụ của Prompt flow hoặc các node Python tùy chỉnh để gọi trực tiếp đến các endpoint đó.