Strukturierte Ausgaben & Tool-Aufrufe

​

Wählen Sie die Route

​

JSON-Modus

{
  "model": "gpt-5.4",
  "messages": [
    {
      "role": "user",
      "content": "Geben Sie ein JSON-Objekt mit Stadt und Wetter zurück."
    }
  ],
  "response_format": { "type": "json_object" }
}

​

Tool-Aufrufschleife

1. Senden Sie Nachrichten plus Tool-Definitionen.
2. Lesen Sie die Modellantwort auf tool_calls, function_call, Anthropic tool_use oder Gemini Funktionsaufrufteile.
3. Führen Sie das Tool in Ihrem eigenen Backend aus.
4. Fügen Sie das Tool-Ergebnis im Format hinzu, das von derselben Route benötigt wird.
5. Führen Sie das Gespräch fort, bis das Modell eine endgültige Antwort zurückgibt.

​

Chat Completions Beispiel

curl https://api.tokenlab.sh/v1/chat/completions \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4",
    "messages": [
      {
        "role": "user",
        "content": "Extrahieren Sie Name und E-Mail als JSON. Wenn nötig, suchen Sie den Kunden."
      }
    ],
    "response_format": { "type": "json_object" },
    "tools": [
      {
        "type": "function",
        "function": {
          "name": "lookup_customer",
          "description": "Suchen Sie einen Kunden nach E-Mail",
          "parameters": {
            "type": "object",
            "properties": {
              "email": { "type": "string" }
            },
            "required": ["email"]
          }
        }
      }
    ]
  }'

​

Schema-Design

• Halten Sie Schemas klein und explizit. Große verschachtelte Schemas fügen Tokens hinzu und verringern die Zuverlässigkeit.
• Bevorzugen Sie erforderliche Felder für Werte, ohne die Ihr Produkt nicht fortfahren kann.
• Verwenden Sie Enums für geschlossene Mengen, von denen Ihre UI oder Ihr Backend abhängt.
• Fügen Sie Beispiele in die Eingabeaufforderung ein, wenn das Modell Schwierigkeiten mit einer Form hat.
• Behandeln Sie Fehler bei nicht unterstützten Feldern als Vertragsfeedback. Entfernen Sie das Feld oder verwenden Sie die native Route, die es dokumentiert.

​

Produktions-Checkliste

• Protokollieren Sie Route, Modell, Tool-Namen und bereinigte Schema-Formate in den Logs.
• Validieren Sie Tool-Argumente, bevor Sie Nebenwirkungen ausführen.
• Wenden Sie Ihre eigenen Berechtigungsprüfungen vor der Tool-Ausführung an.
• Machen Sie die Tool-Ausführung idempotent, wenn ein Client-Wiederholungsversuch denselben Tool-Aufruf wiederholen kann.
• Protokollieren Sie keine Geheimnisse, die von Tools in modellsichtbare Nachrichten zurückgegeben werden.

​

API-Referenz