LiteLLM

​

نظرة عامة

• استخدام TokenLab كـ نقطة نهاية متوافقة مع OpenAI خلف LiteLLM
• وضع LiteLLM أمام TokenLab لإدارة المفاتيح الافتراضية أو سياسة اختيار النماذج أو المراقبة المركزية

​

التثبيت

pip install 'litellm[proxy]'

​

إعداد الـ proxy

model_list:
  - model_name: tokenlab-gpt-5.4
    litellm_params:
      model: custom_openai/gpt-5.4
      api_base: https://api.tokenlab.sh/v1
      api_key: os.environ/OPENAI_API_KEY

export OPENAI_API_KEY="sk-your-tokenlab-key"
litellm --config litellm-config.yaml --port 4000

​

أفضل الممارسات

• اعتبر TokenLab أولًا endpoint من نوع custom_openai
• ضع LiteLLM في المقدمة فقط عندما تحتاج فعلًا إلى طبقة gateway إضافية
• لا تفترض تلقائيًا توافر كل التفاصيل الأصلية للمزوّد عبر المسار المتوافق مع OpenAI