ルートを選択する
| 必要 | ルート | この形状を使用 |
|---|---|---|
| ポータブルJSONオブジェクトレスポンス | /v1/chat/completions | response_format: {"type": "json_object"} |
| OpenAI互換の関数呼び出し | /v1/chat/completions | tools: [{ "type": "function", "function": ... }] |
| OpenAIレスポンツール | /v1/responses | レスポンス tools, tool_choice, および text フィールド |
| Claudeネイティブツールの使用または思考 | /v1/messages | Anthropic Messagesツールスキーマ |
| Gemini関数宣言または組み込みツール | /v1beta/models/:model:generateContent | Geminiネイティブ tools およびコンテンツ部分 |
JSONモード
ポータブル構造化レスポンスのために、Chat Completions JSONモードから始めます:text と json_object を受け入れます。json_schema、strict、およびプロバイダ固有のスキーマ強制は、一部の上流ルートや変換パスに存在する可能性がありますが、すべてのTokenLabルートとモデルに対する包括的な約束ではありません。依存する前に、選択したモデルに対してそれらを検証してください。
常にサーバー上で返されたJSONを解析し、検証してください。JSONモードは形状を改善しますが、アプリケーションレベルのスキーマ検証を置き換えるものではありません。
ツール呼び出しループ
TokenLabはあなたの関数を実行しません。あなたのアプリケーションがループを所有します:- メッセージとツール定義を送信します。
- モデルのレスポンスから
tool_calls、function_call、Anthropictool_use、またはGemini関数呼び出し部分を読み取ります。 - 自分のバックエンドでツールを実行します。
- 同じルートによって要求される形式でツールの結果を追加します。
- モデルが最終的な答えを返すまで会話を続けます。
Chat Completionsの例
スキーマ設計
- スキーマは小さく明示的に保ちます。大きなネストされたスキーマはトークンを追加し、信頼性を低下させます。
- 製品が継続できない値には必須フィールドを優先します。
- UIやバックエンドが依存する閉じたセットにはenumを使用します。
- モデルが形状に苦労している場合は、プロンプトに例を含めます。
- サポートされていないフィールドエラーは契約フィードバックとして扱います。フィールドを削除するか、それを文書化しているネイティブルートを使用します。
プロダクションチェックリスト
- ルート、モデル、ツール名、およびサニタイズされたスキーマ形状をログに記録します。
- 副作用を実行する前にツール引数を検証します。
- ツール実行前に独自の権限チェックを適用します。
- クライアントの再試行が同じツール呼び出しを繰り返す可能性がある場合、ツール実行を冪等にします。
- ツールから返された秘密をモデルが見えるメッセージにログしないでください。
APIリファレンス
| トピック | リファレンス |
|---|---|
| マルチフォーマットAPI | マルチフォーマットAPI |
| チャット完了の作成 | チャット完了の作成 |
| レスポンスの作成 | レスポンスの作成 |
| メッセージの作成 | メッセージの作成 |
| Geminiコンテンツの生成 | Geminiコンテンツの生成 |