Saltar para o conteúdo principal

Documentation Index

Fetch the complete documentation index at: https://docs.tokenlab.sh/llms.txt

Use this file to discover all available pages before exploring further.

​
Visão Geral

A TokenLab gerencia automaticamente o cache para otimizar o desempenho e reduzir custos. Embora não haja um endpoint público para limpar entradas de cache, você tem controle total sobre o comportamento de cache por meio de controles no nível da requisição. Esta página é um guia de cache do lado da requisição. Para páginas estritas de referência da API, consulte:

​
Ignorando o Cache

Para obter respostas atualizadas sem usar o cache, use o parâmetro cache_control em sua requisição: 
curl -X POST "https://api.tokenlab.sh/v1/chat/completions" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "Hello!"}],
    "cache_control": {"type": "no_cache"}
  }'

​
Opções de Controle de Cache

TipoEfeito
no_cacheIgnora a busca e a gravação no cache; sempre obtém uma resposta atualizada
no_storeNão armazena esta resposta no cache
response_onlyUsa apenas cache de correspondência exata (ignora semântico)
semantic_onlyUsa apenas cache semântico (ignora correspondência exata)

​
Feedback de Cache

Se você receber uma resposta em cache incorreta, poderá relatá-la: Use o identificador de request/cache entry com cache hit da sua própria organização; identificadores arbitrários são rejeitados. 
curl -X POST "https://api.tokenlab.sh/v1/cache/feedback" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "cache_entry_id": "req_1234567890",
    "feedback_type": "wrong_answer",
    "description": "Response was outdated"
  }'
Quando uma entrada de cache recebe feedback negativo suficiente, ela é invalidada automaticamente.

​
Casos de Uso

Durante o desenvolvimento, use cache_control: {"type": "no_cache"} para garantir que você está recebendo respostas de API atualizadas.
Para dados em tempo real, como preços de ações ou clima, use sempre no_cache para obter informações atuais.
Ao depurar respostas inesperadas, use no_cache para descartar resultados em cache.
Para mais detalhes sobre cache, consulte o Guia de Cache.