الانتقال إلى المحتوى الرئيسي

​
نظرة عامة

عادةً ما يُستخدم LiteLLM مع TokenLab بطريقتين.
  • استخدام TokenLab كـ نقطة نهاية متوافقة مع OpenAI خلف LiteLLM
  • وضع LiteLLM أمام TokenLab لإدارة المفاتيح الافتراضية أو سياسة اختيار النماذج أو المراقبة المركزية
بالنسبة إلى TokenLab، فإن أنظف مسار افتراضي هو استخدام وضع custom OpenAI / متوافق مع OpenAI في LiteLLM مع api_base = https://api.tokenlab.sh/v1.
إذا كنت تحتاج صراحةً إلى request shapes من نوع Claude-native أو Gemini-native، فالأفضل استخدام التكاملات الأصلية في TokenLab بدلًا من فرض هذه التدفقات عبر طبقة LiteLLM المتوافقة مع OpenAI.
النوع: إطار أو منصةالمسار الرئيسي: نقطة نهاية متوافقة مع OpenAIمستوى الدعم: مسار مدعوم

​
التثبيت

pip install 'litellm[proxy]'

​
إعداد الـ proxy

model_list:
  - model_name: tokenlab-gpt-5.4
    litellm_params:
      model: custom_openai/gpt-5.4
      api_base: https://api.tokenlab.sh/v1
      api_key: os.environ/OPENAI_API_KEY
التشغيل: 
export OPENAI_API_KEY="sk-your-tokenlab-key"
litellm --config litellm-config.yaml --port 4000

​
أفضل الممارسات

  • اعتبر TokenLab أولًا endpoint من نوع custom_openai
  • ضع LiteLLM في المقدمة فقط عندما تحتاج فعلًا إلى طبقة gateway إضافية
  • لا تفترض تلقائيًا توافر كل التفاصيل الأصلية للمزوّد عبر المسار المتوافق مع OpenAI