> ## Documentation Index
> Fetch the complete documentation index at: https://docs.tokenlab.sh/llms.txt
> Use this file to discover all available pages before exploring further.

# LiteLLM

> Gunakan LiteLLM dengan TokenLab sebagai endpoint kompatibel OpenAI atau bagian dari gateway tim Anda

## Ikhtisar

LiteLLM dan TokenLab biasanya dipakai bersama dengan dua cara.

* memakai TokenLab sebagai **endpoint kompatibel OpenAI** di belakang LiteLLM
* menempatkan LiteLLM di depan TokenLab untuk menangani virtual key, kebijakan pemilihan model, atau observability terpusat

Untuk TokenLab, jalur default yang paling bersih adalah memakai mode **custom OpenAI / kompatibel OpenAI** milik LiteLLM dengan `api_base = https://api.tokenlab.sh/v1`.

<Note>
  Jika Anda benar-benar membutuhkan request shape Claude-native atau Gemini-native, lebih baik gunakan integrasi native TokenLab daripada memaksa alur tersebut melewati abstraksi kompatibel OpenAI milik LiteLLM.
</Note>

<Note>
  **Jenis**: Framework atau platform

  **Jalur utama**: endpoint kompatibel OpenAI

  **Tingkat dukungan**: Jalur didukung
</Note>

## Instalasi

```bash theme={null}
pip install 'litellm[proxy]'
```

## Konfigurasi proxy

```yaml theme={null}
model_list:
  - model_name: tokenlab-gpt-5.4
    litellm_params:
      model: custom_openai/gpt-5.4
      api_base: https://api.tokenlab.sh/v1
      api_key: os.environ/OPENAI_API_KEY
```

Menjalankan proxy:

```bash theme={null}
export OPENAI_API_KEY="sk-your-tokenlab-key"
litellm --config litellm-config.yaml --port 4000
```

## Praktik terbaik

* Perlakukan TokenLab terlebih dahulu sebagai endpoint `custom_openai`
* Tempatkan LiteLLM di depan hanya jika Anda benar-benar membutuhkan lapisan gateway tambahan
* Jangan menganggap semua detail native milik penyedia otomatis tersedia di jalur kompatibel OpenAI