Skip to main content
Observabilitas TokenLab yang baik dimulai dengan pengenal publik. Log Anda harus membantu Anda menjawab “apa yang diminta pengguna, tugas publik apa yang dibuat TokenLab, dan bagaimana penagihannya?” tanpa mengekspos detail sensitif penyedia atau data pengguna yang sensitif.

​
Pengenal Publik yang Harus Ditangkap

Jangan simpan ID tugas penyedia, URL penyedia, pengenal penyedia, kunci Redis, atau metadata eksekusi sensitif sebagai catatan yang terlihat oleh pelanggan.

​
Apa yang Harus Dicatat

Catat cukup untuk mendiagnosis permintaan tanpa membocorkan rahasia:
  • Endpoint, metode HTTP, model, kode status, timestamp, dan latensi.
  • Pengenal publik: request_id, task_id, poll_url, dan billing_transaction_id jika ada.
  • Bentuk permintaan yang disanitasi: bidang mana yang ada, bukan prompt lengkap atau konten media pribadi.
  • Respons status asinkron terminal, termasuk bidang kesalahan publik.
  • Jumlah percobaan ulang klien dan apakah percobaan ulang tersebut membuat tugas baru atau melanjutkan yang sudah ada.
Selalu redaksi Authorization, kunci API, token manajemen, URL yang ditandatangani, URL media pribadi, prompt lengkap, dan data pribadi pengguna kecuali Anda memiliki izin eksplisit untuk menyimpannya.

​
Matriks Pemecahan Masalah

​
Rekonsiliasi Penggunaan

Gunakan API Manajemen untuk rekonsiliasi sisi server:
GET /v1/management/api-keys/{keyId}/usage dapat memfilter berdasarkan scene, model, modelVendor, startDate, dan endDate. Gunakan catatan ini alih-alih menggores halaman dasbor atau bergantung pada ID tugas penyedia hulu. Respons streaming mungkin diselesaikan setelah aliran dikirim, jadi header penagihan bisa tidak ada bahkan ketika penggunaan dicatat kemudian. Tugas media asinkron mungkin diselesaikan setelah pemantauan terminal.

​
Template Paket Dukungan

Saat menghubungi dukungan, sertakan:
  • request_id.
  • task_id dan poll_url untuk pekerjaan asinkron.
  • billing_transaction_id jika ada.
  • Endpoint, metode, model, timestamp, dan kode status.
  • Bentuk permintaan yang disanitasi dan badan kesalahan publik.
  • Hasil yang Anda harapkan dan apa yang sebenarnya dilihat pengguna.
Jangan sertakan kunci API, token manajemen, media pribadi, prompt lengkap, URL penyedia, ID saluran, atau pengenal diagnostik pribadi kecuali dukungan TokenLab secara eksplisit meminta contoh yang telah disunting.

​
Pemeriksaan Operasional

  • Beri peringatan pada respons 401, 402, 429, dan 5xx yang berulang secara terpisah; biasanya mereka memiliki pemilik yang berbeda.
  • Lacak pekerjaan asinkron yang tetap non-terminal lebih lama dari SLA produk Anda.
  • Lacak upaya pembuatan duplikat untuk ID pekerjaan pengguna yang sama.
  • Sampel pekerjaan yang telah selesai dan verifikasi aset yang terlihat oleh pengguna, catatan penggunaan, dan catatan tugas yang disimpan setuju.

​
Referensi API