Chuyển đến nội dung chính

Tổng quan

CrewAI hỗ trợ các LLM tương thích với OpenAI bằng cách thiết lập model, API key và base URL trên các biến môi trường hoặc trên lớp LLM.
Loại: Khung làm việc Agent (Agent Framework)Đường dẫn chính: Chat completions tương thích với OpenAIĐộ tin cậy hỗ trợ: Hỗ trợ đường dẫn endpoint tùy chỉnh

Biến môi trường

import os

os.environ["OPENAI_API_KEY"] = "sk-your-tokenlab-key"
os.environ["OPENAI_API_BASE"] = "https://api.tokenlab.sh/v1"
os.environ["OPENAI_MODEL_NAME"] = "claude-sonnet-5"

Lớp LLM

from crewai import Agent, LLM

llm = LLM(
    model="claude-sonnet-5",
    base_url="https://api.tokenlab.sh/v1",
    api_key="sk-your-tokenlab-key",
)

agent = Agent(
    role="Research analyst",
    goal="Summarize technical tradeoffs clearly",
    backstory="You produce concise implementation notes.",
    llm=llm,
)

Gợi ý mô hình

Sử dụng gpt-5.4-mini cho các crew thông thường, claude-sonnet-5 hoặc gpt-5.4 cho các agent cần lập kế hoạch chuyên sâu, và deepseek-v4-flash cho các vòng lặp nhanh với chi phí thấp.

Lưu ý về Endpoint

Đường dẫn tương thích với OpenAI của CrewAI là lựa chọn tốt nhất cho các lệnh gọi agent theo kiểu Chat Completions. Chỉ sử dụng trực tiếp các endpoint gốc của TokenLab khi công cụ hoặc SDK bạn chọn có thể giao tiếp với các giao thức gốc đó.