メインコンテンツへスキップ

​
概要

Guardrailsは、そのLLM APIインターフェースと互換性のあるあらゆる呼び出し可能オブジェクト（callable）をラップできます。TokenLabの場合、OpenAI SDKをTokenLabのベースURLで構成し、チャット補完の呼び出し可能オブジェクトをガードに渡します。
タイプ: 検証および構造化出力フレームワーク主要なパス: OpenAI互換のChat Completionsサポートの信頼性: サポートされているOpenAI互換パス

​
環境設定

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

​
例

import os

from guardrails import Guard
from openai import OpenAI
from pydantic import BaseModel, Field


class Pet(BaseModel):
    pet_type: str = Field(description="Species of pet")
    name: str = Field(description="A unique pet name")


guard = Guard.for_pydantic(output_class=Pet)

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

raw_output, validated_output, *rest = guard(
    llm_api=client.chat.completions.create,
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "What kind of pet should I get?"}],
)

​
エンドポイントに関する注意点

Guardrailsは、LLM呼び出し周辺の検証に重点を置いています。チャット補完フローにはOpenAI互換パスを使用するか、アプリケーションでネイティブなTokenLabエンドポイントが必要な場合はカスタムの呼び出し可能オブジェクトを渡してください。