Saltar para o conteúdo principal

​
Visão Geral

O DSPy pode chamar o TokenLab usando o prefixo de provedor openai/ com o endpoint /v1 do TokenLab, que é compatível com OpenAI.
Tipo: Framework de ProgramaçãoCaminho Principal: Chamadas de modelo de linguagem compatíveis com OpenAINível de Suporte: Caminho de endpoint personalizado suportado

​
Ambiente

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

​
Configurar o DSPy

import os

import dspy

lm = dspy.LM(
    "openai/claude-sonnet-5",
    api_key=os.environ["TOKENLAB_API_KEY"],
    api_base="https://api.tokenlab.sh/v1",
)

dspy.configure(lm=lm)

​
Usar um Módulo

qa = dspy.ChainOfThought("question -> answer")

response = qa(question="What should I monitor in an LLM gateway?")
print(response.answer)

​
Sugestões de Modelos

Use gpt-5.4-mini para experimentos rápidos, claude-sonnet-5 para rastreamentos de raciocínio mais robustos e deepseek-v4-flash para ciclos de iteração rápidos.