Skip to main content
TokenLab bersifat multi-format: Anda dapat mempertahankan klien yang kompatibel dengan OpenAI, panggilan Messages asli Anthropic, panggilan REST asli Gemini, dan endpoint media dalam bentuk aslinya. Migrasi yang paling aman bukanlah menerjemahkan setiap beban kerja ke dalam satu format universal. Pilihlah rute yang memiliki perilaku yang dibutuhkan oleh aplikasi Anda.

Pemetaan Rute

Resep Migrasi Cepat

OpenAI ke TokenLab

Ubah hanya base_url / baseURL SDK menjadi https://api.tokenlab.sh/v1, pertahankan nama variabel lingkungan kunci API OpenAI Anda yang sudah ada jika itu lebih mudah untuk peluncuran, dan ganti ID model setelah memeriksa GET /v1/models.

OpenRouter ke TokenLab

Gunakan https://api.tokenlab.sh/v1 di mana aplikasi Anda sebelumnya menggunakan URL dasar yang kompatibel dengan OpenAI dari OpenRouter. Hapus ID model dengan awalan penyedia dan gunakan ID model publik TokenLab dari /v1/models; ketika beban kerja memerlukan Claude Messages atau generateContent Gemini, pindahkan ke endpoint asli TokenLab alih-alih memaksanya melalui chat yang kompatibel dengan OpenAI.

LiteLLM ke TokenLab

Gunakan rute custom_openai/<model> milik LiteLLM dengan api_base: https://api.tokenlab.sh/v1. Pisahkan alias LiteLLM dari ID model TokenLab yang sebenarnya agar Anda dapat mengubah kebijakan perutean tanpa mengubah prompt aplikasi.

Claude Messages melalui TokenLab

Arahkan klien SDK Anthropic ke https://api.tokenlab.sh dan panggil messages.create. Jangan tambahkan /v1 ke URL dasar SDK; SDK sudah memiliki jalur /v1/messages.

Gemini Native melalui TokenLab

Pertahankan payload Gemini pada https://api.tokenlab.sh/v1beta/models/{model}:generateContent. contents, parts, file, konten yang di-cache, deklarasi fungsi, dan tools bawaan asli Gemini harus tetap berada di rute ini saat aplikasi Anda bergantung pada perilaku Gemini.

Migrasi yang Kompatibel dengan OpenAI

Pertahankan kode retry, timeout, dan streaming Anda yang sudah ada, tetapi validasi ID model dengan GET /v1/models sebelum trafik produksi. Untuk pembuatan gambar, kirim model secara eksplisit dan baca panduan gambar karena model gambar lebih bervariasi daripada model chat.

Migrasi Anthropic

Gunakan /v1/messages untuk penggunaan tool asli Claude, alur berpikir (thinking flows), dan semantik pesan Anthropic. Jangan menerjemahkan field khusus Anthropic melalui Chat Completions kecuali Anda sengaja menginginkan perubahan perilaku yang kompatibel dengan OpenAI.

Migrasi Gemini

Pertahankan tools bawaan Gemini, referensi File API, konten yang di-cache, deklarasi fungsi, dan bagian konten asli pada /v1beta saat aplikasi Anda bergantung pada perilaku asli Gemini.

Migrasi Media

  1. Kueri GET /v1/models?recommended_for=image|video|music|3d.
  2. Baca GET /v1/models dalam respons daftar dan GET /v1/models/{model} lengkap jika tersedia.
  3. Kirim model secara eksplisit, terutama untuk endpoint gambar.
  4. Simpan task_id, poll_url, endpoint, model, dan ID pekerjaan Anda sendiri untuk pekerjaan asinkron.
  5. Rekonsiliasi biaya melalui catatan penggunaan dan billing_transaction_id, bukan ID tugas penyedia.
Beban kerja media memerlukan rencana peluncuran sendiri karena latensi, retry, dan aset akhir berperilaku berbeda dari chat completions.

Rencana Peluncuran Produksi

Kendala Migrasi

  • Jangan menempatkan setiap model di balik satu jalur OpenAI Chat Completions jika aplikasi Anda memerlukan perilaku asli Anthropic, Gemini, atau Responses.
  • Jangan berasumsi menggunakan default gambar lama. Kirim model secara eksplisit.
  • Jangan melakukan retry pada permintaan pembuatan asinkron tanpa memeriksa apakah tugas sudah dibuat.
  • Jangan mengekspos pengenal khusus penyedia di log atau UI Anda.
  • Jangan membandingkan penagihan dengan ID tugas penyedia. Gunakan catatan penggunaan TokenLab.

Referensi API