Skip to main content

リクエストボディ

string
必須
使用するモデルのID。利用可能なオプションについては Models を参照してください。
array
必須
会話を構成するメッセージの一覧。各メッセージオブジェクトは次を含みます:
  • role (string): system, user, または assistant
  • content (string | array): メッセージの内容
content が配列の場合、TokenLab は互換モデル向けに構造化されたマルチモーダルブロックをサポートします:
  • text: { "type": "text", "text": "..." }
  • 画像: { "type": "image_url", "image_url": { "url": "https://..." } }
  • 動画: { "type": "video_url", "video_url": { "url": "https://..." } }
  • 音声: { "type": "audio_url", "audio_url": { "url": "https://..." } }
本番のマルチモーダルトラフィックでは、公開された https URL を優先してください。TokenLab はこれらのメディアブロックを、ルーティングされたモデルが要求するプロバイダ固有のリクエスト形式に変換します。
number
デフォルト:"1"
0〜2 の間のサンプリング温度。値が高いほど出力はよりランダムになります。
integer
生成する最大トークン数。
boolean
デフォルト:"false"
true の場合、部分的なメッセージ差分が SSE イベントとして送信されます。
object
ストリーミングのオプション。include_usage: true を設定するとストリームチャンクでトークン使用量を受け取れます。
number
デフォルト:"1"
Nucleus sampling のパラメータ。temperature または top_p のどちらかを変更することを推奨します(両方は推奨されません)。
number
デフォルト:"0"
-2.0 から 2.0 の値。正の値は繰り返しトークンにペナルティを与えます。
number
デフォルト:"0"
-2.0 から 2.0 の値。正の値は既にテキスト内に存在するトークンにペナルティを与えます。
string | array
API がトークン生成を停止する最大 4 つのシーケンス。
array
モデルが呼び出す可能性のあるツールの一覧(関数呼び出し)。
string | object
モデルがツールをどのように使用するかを制御します。オプション: auto, none, required, または特定のツールオブジェクト。
boolean
デフォルト:"true"
並列での関数呼び出しを有効にするかどうか。false にすると関数を順次呼び出します。
integer
補完に使用される最大トークン数。max_tokens の代替で、新しい推論対応モデルファミリーに有用です。
string
推論対応モデル向けの推論努力レベル。オプション: low, medium, high
integer
決定論的サンプリングのためのランダムシード。
integer
デフォルト:"1"
生成する補完の数 (1-128)。
boolean
ログ確率を返すかどうか。
integer
返す上位ログ確率の数 (0-20)。logprobs: true が必要です。
integer
Top-K サンプリングのパラメータ(Anthropic/Gemini モデル向け)。
object
レスポンス形式の仕様。JSON モードには {"type": "json_object"} を使用してください。{"type": "json_schema", "json_schema": {...}} は選択されたモデルとルーティングされた動作に依存するベストエフォートのパスとして扱われます。
object
指定したトークンが出現する可能性を変更します。トークンID(文字列)を -100 から 100 のバイアス値にマップしてください。
string
悪用監視のためにエンドユーザーを一意に識別する識別子。

レスポンス

string
補完の一意の識別子。
string
常に chat.completion
integer
補完が作成された Unix タイムスタンプ。
string
補完に使用されたモデル。
array
補完の選択肢の一覧。各選択肢は次を含みます:
  • index (integer): 選択肢のインデックス
  • message (object): 生成されたメッセージ
  • finish_reason (string): モデルが停止した理由(stop, length, tool_calls
object
トークン使用状況の統計。
  • prompt_tokens (integer): プロンプト内のトークン数
  • completion_tokens (integer): 補完内のトークン数
  • total_tokens (integer): 使用された合計トークン数

マルチモーダルの例