Übersicht
Guardrails kann jeden aufrufbaren Code (Callable) umschließen, der mit seiner LLM-API-Schnittstelle kompatibel ist. Konfigurieren Sie für TokenLab das OpenAI SDK mit der Basis-URL von TokenLab und übergeben Sie das Chat-Completions-Callable an Ihren Guard.
Typ: Validierungs- und Framework für strukturierte AusgabenPrimärer Pfad: OpenAI-kompatible Chat CompletionsSupport-Status: Unterstützter OpenAI-kompatibler Pfad
Umgebung
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
Beispiel
import os
from guardrails import Guard
from openai import OpenAI
from pydantic import BaseModel, Field
class Pet(BaseModel):
pet_type: str = Field(description="Species of pet")
name: str = Field(description="A unique pet name")
guard = Guard.for_pydantic(output_class=Pet)
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
raw_output, validated_output, *rest = guard(
llm_api=client.chat.completions.create,
model="claude-sonnet-5",
messages=[{"role": "user", "content": "What kind of pet should I get?"}],
)
Hinweise zu Endpunkten
Guardrails konzentriert sich auf die Validierung rund um den LLM-Aufruf. Verwenden Sie den OpenAI-kompatiblen Pfad für Chat-Completions-Abläufe oder übergeben Sie ein benutzerdefiniertes Callable, falls Ihre Anwendung einen nativen TokenLab-Endpunkt benötigt.
