Langsung ke konten utama

Gambaran Umum

Semantic Kernel dapat memanggil TokenLab melalui layanan penyelesaian chat endpoint kustom OpenAI-nya.
Tipe: SDK / Kerangka Kerja AgenJalur Utama: Penyelesaian chat yang kompatibel dengan OpenAITingkat Dukungan: Jalur endpoint kustom yang didukung

Lingkungan

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

.NET Kernel Builder

Endpoint kustom Semantic Kernel harus mengarah ke endpoint root /v1 yang kompatibel dengan OpenAI, bukan /v1/chat/completions.
using Microsoft.SemanticKernel;

#pragma warning disable SKEXP0010

var builder = Kernel.CreateBuilder();

builder.AddOpenAIChatCompletion(
    modelId: "gpt-5.4-mini",
    endpoint: new Uri("https://api.tokenlab.sh/v1"),
    apiKey: Environment.GetEnvironmentVariable("TOKENLAB_API_KEY"));

var kernel = builder.Build();

Prompt Dasar

var result = await kernel.InvokePromptAsync(
    "Give me a concise checklist for evaluating an LLM gateway.");

Console.WriteLine(result);

Catatan Endpoint

Gunakan:
https://api.tokenlab.sh/v1
Jangan gunakan:
https://api.tokenlab.sh/v1/chat/completions
Semantic Kernel menambahkan jalur penyelesaian chat secara internal untuk konektor ini.