Genel Bakış
TokenLab, yaygın kodlama araçlarının, SDK’ların ve framework’lerin minimum “glue code” (yapıştırıcı kod) ile entegre olabilmesi için birden fazla API formatı sunar. Bu sayfa, bir pazarlama matrisinden kasıtlı olarak daha dar kapsamlı tutulmuştur:- Desteklenen (Supported): Somut bir kurulum yolunu belgelediğimiz ve TokenLab’in bu yolun beklediği protokol yapısını sunduğu anlamına gelir.
- Güçlü yerel yol (Strong native path): Deponun ayrıca o protokol ailesi için doğrudan adaptör veya istek formatı kanıtına sahip olduğu anlamına gelir.
- En iyi çaba (Best-effort): Entegrasyonun çalışabileceği, ancak yukarı yönlü istemcinin bu özel ağ geçidi iş akışını kararlı bir sözleşme olarak görmediği anlamına gelir.
Desteklenmeyen alanlar tek tip bir şekilde ele alınmaz. Uyumluluk rotalarında bazı alanlar göz ardı edilir veya normalleştirilir.
/v1/responses rotasında, desteklenmeyen alanlar, rotanın talep edilen davranışı garanti edemediği durumlarda açık 400 veya 503 hataları döndürebilir.Desteklenen API Formatları
| Endpoint | Format | Kullanım Durumu |
|---|---|---|
/v1/chat/completions | OpenAI Chat | Evrensel uyumluluk |
/v1/responses | OpenAI Responses | Durumlu (stateful) konuşmalar |
/v1/messages | Anthropic Messages | Claude yerel özellikleri |
/v1beta/models/:model:generateContent | Google Gemini | Gemini yerel özellikleri |
IDE & CLI Uyumluluğu
Belgelenmiş Araç Yolları
| Araç | Destek Seviyesi | Format | Notlar |
|---|---|---|---|
| Cursor | Sınırlı destek | OpenAI uyumlu | BYOK standart sohbet/editör akışları için çalışır, Tab Completion gibi Cursor tarafından yönetilen özelliklerin yerine geçmez |
| Claude Code CLI | Güçlü yerel yol | Anthropic | Düşünme (thinking) ve tool_choice için adaptör kapsamına sahip yerel /v1/messages rotası |
| Codex CLI | Model/yol sınırlamalarıyla desteklenir | OpenAI Responses | /v1/responses rotasını Codex’e özgü iş akışları için gelişmiş bir yol olarak değerlendirin; yalnızca Responses’a özgü bazı alanlar her modelde ve rotada garanti edilmez |
| Gemini CLI | En iyi çaba / deneysel | Gemini | Özel TokenLab temel URL akışı, resmi bir Gemini CLI entegrasyonu değildir |
| OpenCode | Desteklenir | OpenAI uyumlu | Varsayılan olarak OpenAI uyumlu bir sağlayıcı kullanın; yalnızca açıkça ihtiyaç duyduğunuzda Responses tabanlı bir sağlayıcıya geçin |
| OpenHands | Desteklenir | OpenAI uyumlu | openai/<model> ve TokenLab’in /v1 temel URL’si ile LiteLLM/OpenAI uyumlu yolunu kullanın |
Diğer OpenAI uyumlu editörler ve ajan araçları genellikle aynı temel URL yapısıyla çalışır; üretim ortamında kullanmadan önce aracın kendi özel sağlayıcı desteğini kontrol edin.
Yapılandırma Örnekleri
- Cursor
- Claude Code
- OpenCode
- Aider
- OpenAI formatı:
{ type: "function", function: { name, parameters } } - Anthropic formatı:
{ name, input_schema }(type alanı olmadan)
SDK Uyumluluğu
Belgelenmiş SDK & Framework Yolları
| SDK / Framework | Dil | Destek Seviyesi | Notlar |
|---|---|---|---|
| OpenAI SDK | Python/JS/Go | Desteklenen temel yol | /v1 Chat Completions ve Embeddings için uyumluluk yolu; sağlayıcıya özgü davranışlar için yerel sağlayıcı rotalarını kullanın ve Responses’a özgü alanların her modelde çalıştığını varsaymayın |
| Anthropic SDK | Python/JS | Güçlü yerel yol | Araçlar, düşünme ve istem önbelleğe alma (prompt caching) için doğrudan kanıta sahip yerel Messages rotası |
| Vercel AI SDK | TypeScript | Önerilen entegrasyon modeli | @ai-sdk/openai-compatible tercih edin; yalnızca açıkça Responses-native davranış istediğinizde @ai-sdk/openai kullanın |
| LangChain | Python/JS | Desteklenen standart yüzeyler | ChatOpenAI ve OpenAIEmbeddings hedeflenen kapsamdır; satıcıya özgü ekstralar kapsam dışıdır |
| LlamaIndex | Python | OpenAILike ile desteklenir | TokenLab gibi üçüncü taraf ağ geçitleri için yerleşik OpenAI sınıflarını değil, OpenAILike kullanın |
| OpenAI Agents SDK | Python | Desteklenen chat-completions yolu | OpenAIChatCompletionsModel ile AsyncOpenAI(base_url="https://api.tokenlab.sh/v1") kullanın; yerel Responses davranışı seçilen modele ve rotaya bağlıdır |
| AutoGen | Python | Desteklenen özel endpoint yolu | base_url: https://api.tokenlab.sh/v1 ile OpenAIChatCompletionClient kullanın |
| Semantic Kernel | .NET | Desteklenen özel endpoint yolu | OpenAI chat completion bağlayıcısı özel endpoint’ini kullanın ve https://api.tokenlab.sh/v1 adresine yönlendirin |
| CrewAI | Python | Desteklenen özel endpoint yolu | OPENAI_API_BASE veya LLM(base_url=...) değerini TokenLab’in /v1 endpoint’ine ayarlayın |
| Pydantic AI | Python | Desteklenen OpenAI uyumlu sağlayıcı yolu | OpenAIProvider(base_url="https://api.tokenlab.sh/v1") ile OpenAIChatModel kullanın |
| DSPy | Python | Desteklenen özel endpoint yolu | dspy.LM("openai/<model>", api_base="https://api.tokenlab.sh/v1") kullanın |
| Langflow | Python / Web | Kapsam sınırlamalarıyla desteklenir | OpenAI bileşeninin OpenAI API Base alanını TokenLab’in /v1 endpoint’i ile kullanın |
| Haystack | Python | Desteklenen özel endpoint yolu | OpenAIChatGenerator(api_base_url="https://api.tokenlab.sh/v1") kullanın |
| Graphiti | Python | Desteklenen özel endpoint yolu | TokenLab’in /v1 endpoint’i ile OpenAIGenericClient kullanın |
| Dify | - | Kapsam sınırlamalarıyla desteklenir | OpenAI sağlayıcısı ve chat-completions odaklı akışlar hedeflenen yoldur; Codex’e özgü Responses veya WebSocket davranışı için uygun değildir |
| Flowise | Web / Node | Kapsam sınırlamalarıyla desteklenir | Mümkünse TokenLab sohbet düğümünü veya https://api.tokenlab.sh/v1 adresine yönlendirilmiş ChatOpenAI uyumlu bir düğüm kullanın |
| Mem0 | Python | Desteklenen özel endpoint yolu | OpenAI sağlayıcısını koruyun ve openai_base_url değerini TokenLab’in /v1 endpoint’ine ayarlayın |
| Agno | Python | Desteklenen yol | Mümkünse TokenLab model sarmalayıcısını veya OpenAI uyumlu temel URL yolunu kullanın |
| Browser Use | Python | Desteklenen özel endpoint yolu | TokenLab’in /v1 endpoint’i ile ChatOpenAILike kullanın |
| VoltAgent | TypeScript | Desteklenen özel endpoint yolu | baseURL: "https://api.tokenlab.sh/v1" ile yapılandırılmış bir AI SDK OpenAI sağlayıcısı geçirin |
| Ragas | Python | Desteklenen özel endpoint yolu | llm_factory içine AsyncOpenAI(base_url="https://api.tokenlab.sh/v1") geçirin |
| Guardrails | Python | Desteklenen doğrulama yolu | TokenLab’in /v1 endpoint’i ile yapılandırılmış bir OpenAI SDK chat completions çağrılabilir nesnesi geçirin |
| Prompt flow | Python / CLI | Desteklenen özel endpoint yolu | base_url=https://api.tokenlab.sh/v1 ile bir OpenAI bağlantısı oluşturun |
| Promptfoo | CLI / Node | Desteklenen yol | apiBaseUrl: https://api.tokenlab.sh/v1 ile OpenAI chat veya Responses sağlayıcılarını kullanın |
| Portkey Gateway | Gateway | Desteklenen yol | OpenAI uyumlu sohbet ve Responses trafiği için TokenLab’i yukarı yönlü bir sağlayıcı olarak kullanın |
| Helicone | Gateway / Observability | Desteklenen gözlemlenebilirlik yolu | Helicone-Target-Url: https://api.tokenlab.sh ile OpenAI uyumlu istekleri Helicone Gateway üzerinden yönlendirin |
| Langfuse | Observability | Desteklenen izleme yolu | Langfuse OpenAI entegrasyonunu TokenLab’in /v1 temel URL’si ile yapılandırın |
| OpenLIT | Observability | Desteklenen izleme yolu | TokenLab’in /v1 temel URL’si ile yapılandırılmış bir OpenAI SDK istemcisini izleyin |
| OpenLLMetry | Observability | Desteklenen izleme yolu | TokenLab’in /v1 temel URL’si ile OpenAI SDK izlemesini kullanın |
| Phoenix | Observability | Desteklenen izleme yolu | TokenLab’in /v1 temel URL’si ile yapılandırılmış OpenAI SDK istemcisini otomatik izleyin |
| Opik | Observability | Desteklenen izleme yolu | TokenLab’in /v1 temel URL’si ile yapılandırılmış bir OpenAI SDK istemcisini sarmalayın |
| LangBot | Bot Platform | Desteklenen sohbet yolu | Mümkünse TokenLab isteyicisini kullanın veya TokenLab’in /v1 endpoint’i ile OpenAI uyumlu bir isteyici yapılandırın |
| Open WebUI | Web Chat | Desteklenen sohbet uygulaması yolu | TokenLab’i OpenAI uyumlu bir API bağlantısı olarak ekleyin ve model listesini yenileyin |
| Chatbox / DeepChat / Jan / LibreChat / Cherry Studio | Desktop / Web | Desteklenen sohbet uygulaması yolu | Her uygulamanın OpenAI uyumlu özel sağlayıcı akışını kullanın; bu uygulamalar genellikle chat-completions odaklıdır |
Chat Completions Parametreleri
Temel Parametreler
| Parametre | Tip | Açıklama |
|---|---|---|
model | string | Model tanımlayıcısı (gerekli) |
messages | array | Konuşma mesajları (gerekli) |
max_tokens | integer | Maksimum çıktı token’ı |
temperature | number | Örnekleme sıcaklığı (0-2) |
top_p | number | Nucleus örnekleme (0-1) |
stream | boolean | Akışı etkinleştir |
Araç Çağırma (Tool Calling)
Araç Seçimi (Tool Choice) Seçenekleri
| Format | Örnek | Açıklama |
|---|---|---|
| String | "auto", "none", "required" | Basit seçim |
| OpenAI Object | { "type": "function", "function": { "name": "fn" } } | Belirli fonksiyonu zorla |
| Anthropic Object | { "type": "tool", "name": "fn", "disable_parallel_tool_use": true } | Anthropic yerel formatı |
Gelişmiş Parametreler
| Parametre | Tip | Açıklama |
|---|---|---|
stream_options | object | Yalnızca Chat Completions: Token sayıları için { include_usage: true } |
reasoning_effort | string | Akıl yürütme özellikli GPT-5 modelleri için "low", "medium", "high" |
service_tier | string | "auto" veya "default" |
seed | integer | Deterministik çıktılar |
logprobs | boolean | Log olasılıklarını döndür |
top_logprobs | integer | En iyi log olasılıklarının sayısı (0-20) |
logit_bias | object | Token yanlılık haritası (-100 ila 100) |
frequency_penalty | number | Tekrar cezası (-2 ila 2) |
presence_penalty | number | Konu cezası (-2 ila 2) |
stop | string/array | Durdurma dizileri |
n | integer | Tamamlama sayısı (1-128) |
user | string | İzleme için kullanıcı tanımlayıcısı |
OpenAI Gelişmiş Özellikleri
| Parametre | Tip | Açıklama |
|---|---|---|
modalities | array | Çok modlu (multimodal) için ["text", "audio"] |
audio | object | Ses çıkış yapılandırması (ses, format) |
prediction | object | Daha hızlı tamamlama için tahmin edilen çıktı |
metadata | object | İzleme için anahtar-değer çiftleri |
store | boolean | Daha sonra geri almak için sakla |
Sağlayıcıya Özgü Seçenekler
Anthropic Messages Parametreleri
Temel Parametreler
| Parametre | Tip | Açıklama |
|---|---|---|
model | string | Model tanımlayıcısı |
messages | array | Konuşma mesajları |
max_tokens | integer | Maksimum çıktı (128000’e kadar) |
system | string/array | Sistem istemi |
stream | boolean | Akışı etkinleştir |
Araç Çağırma (Tool Calling)
Genişletilmiş Düşünme (Extended Thinking)
Responses API Parametreleri
Temel Parametreler
| Parametre | Tip | Açıklama |
|---|---|---|
model | string | Model tanımlayıcısı |
input | string/array | Girdi içeriği |
instructions | string | Sistem talimatları |
max_output_tokens | integer | Maksimum çıktı token’ı |
previous_response_id | string | Konuşmayı devam ettir |
Gelişmiş Parametreler
| Parametre | Tip | Açıklama |
|---|---|---|
truncation_strategy | string | "auto" veya "disabled" |
include | array | ["reasoning.encrypted_content"] |
reasoning_effort | string | Akıl yürütme modelleri için |
service_tier | string | Öncelik katmanı |
Araç Formatı
Hem OpenAI hem de Anthropic araç formatlarını destekler:Gemini API Parametreleri
Temel Parametreler
| Parametre | Tip | Açıklama |
|---|---|---|
contents | array | Konuşma içeriği |
systemInstruction | object | Sistem istemi |
generationConfig | object | Üretim ayarları |
Araçlar
Güvenlik Ayarları
Ek Parametreler
| Parametre | Tip | Açıklama |
|---|---|---|
cachedContent | string | Önbelleğe alınmış içerik referansı |
responseMimeType | string | "text/plain" veya "application/json" |
responseSchema | object | Yapılandırılmış çıktı için JSON şeması |
Akış (Streaming)
Chat Completions ve Responses dahil olmak üzerestream: true değerini sunan üretim endpoint’leri, Server-Sent Events (SSE) kullanır:
Hata Yönetimi
TokenLab, OpenAI uyumlu hata yanıtları döndürür:En İyi Uygulamalar
Bilinmeyen parametreler için passthrough kullanın
Bilinmeyen parametreler için passthrough kullanın
Bilinmeyen parametreler, yalnızca seçilen genel rota ve model bunları desteklediğinde iletilir.
stream_options.include_usage değerini yalnızca Chat Completions için kullanın
stream_options.include_usage değerini yalnızca Chat Completions için kullanın
Chat Completions akışı için doğru token sayıları adına
stream_options.include_usage değerini etkinleştirin. Responses’ın kendi akış sözleşmesi vardır ve bu Chat’e özgü seçeneği sunmaz.Uygun tool_choice formatını kullanın
Uygun tool_choice formatını kullanın
SDK’nızın beklediği formatla eşleştirin. TokenLab hem OpenAI hem de Anthropic formatlarını kabul eder.