İstek Gövdesi
array
gerekli
Konuşmayı oluşturan mesajların listesi.Her mesaj nesnesi şunları içerir:
role(string):system,user, veyaassistantcontent(string | array): Mesaj içeriği
content bir dizi olduğunda, TokenLab uyumlu modeller için yapılandırılmış multimodal blokları destekler:- text:
{ "type": "text", "text": "..." } - image:
{ "type": "image_url", "image_url": { "url": "https://..." } } - video:
{ "type": "video_url", "video_url": { "url": "https://..." } } - audio:
{ "type": "audio_url", "audio_url": { "url": "https://..." } }
https URL’leri tercih edin. TokenLab, bu medya bloklarını yönlendirilen fiziksel modelin gerektirdiği sağlayıcıya özgü istek biçimine dönüştürecektir.number
varsayılan:"1"
0 ile 2 arasında örnekleme sıcaklığı. Daha yüksek değerler çıktıyı daha rastgele yapar.
integer
Üretilecek maksimum token sayısı.
boolean
varsayılan:"false"
Eğer true ise, kısmi mesaj deltaları SSE etkinleri olarak gönderilir.
object
Akışlama için seçenekler. Token kullanımını akış parçalarında almak için
include_usage: true olarak ayarlayın.number
varsayılan:"1"
Nucleus örnekleme parametresi. Genellikle bunu veya temperature parametresini değiştirmenizi öneririz, her ikisini birden değil.
number
varsayılan:"0"
-2.0 ile 2.0 arasında bir sayı. Pozitif değerler tekrarlanan tokenleri cezalandırır.
number
varsayılan:"0"
-2.0 ile 2.0 arasında bir sayı. Pozitif değerler metinde zaten bulunan tokenleri cezalandırır.
string | array
API’nin token üretimini durduracağı en fazla 4 dizilim.
array
Modelin çağırabileceği (function calling) araçların listesi.
string | object
Modelin araçları nasıl kullandığını kontrol eder. Seçenekler:
auto, none, required, veya belirli bir araç nesnesi.boolean
varsayılan:"true"
Paralel fonksiyon çağrılarını etkinleştirip etkinleştirmeyeceği. Fonksiyonları sıralı olarak çağırmak için false yapın.
integer
Tamamlama için maksimum token sayısı.
max_tokens yerine kullanılabilecek bir alternatif, özellikle yeni akıl yürütme destekli model aileleri için faydalıdır.string
Akıl yürütme destekli modeller için akıl yürütme çabası düzeyi. Seçenekler:
low, medium, high.integer
Deterministik örnekleme için rastgele tohum (seed).
integer
varsayılan:"1"
Oluşturulacak tamamlamaların sayısı (1-128).
boolean
Log olasılıklarının döndürülüp döndürülmeyeceği.
integer
Döndürülecek en iyi log olasılıklarının sayısı (0-20).
logprobs: true gerektirir.integer
Top-K örnekleme parametresi (Anthropic/Gemini modelleri için).
object
Yanıt formatı spesifikasyonu. JSON modu için
{"type": "json_object"} kullanın. {"type": "json_schema", "json_schema": {...}} ise seçilen modele ve yönlendirilen davranışa bağlı olarak en iyi çabayla uygulanabilecek bir yoldur.object
Belirtilen tokenlerin ortaya çıkma olasılığını değiştirin. Token ID’lerini (string olarak) -100 ile 100 arasında bias değerlerine eşleyin.
string
Kötüye kullanım izleme için uç kullanıcınızı temsil eden benzersiz bir tanımlayıcı.
Yanıt
string
Tamamlamanın benzersiz kimliği.
string
Her zaman
chat.completion.integer
Tamamlamanın oluşturulduğu Unix zaman damgası.
string
Tamamlama için kullanılan model.
array
Tamamlama seçeneklerinin listesi.Her seçenek şunları içerir:
index(integer): Seçeneğin indeksimessage(object): Üretilen mesajfinish_reason(string): Modelin neden durduğu (stop,length,tool_calls)
object
Token kullanım istatistikleri.
prompt_tokens(integer): Prompta ait tokenlarcompletion_tokens(integer): Tamamlamadaki tokenlartotal_tokens(integer): Kullanılan toplam token sayısı