Skip to main content
좋은 TokenLab 관측 가능성은 공개 식별자로 시작됩니다. 로그는 “사용자가 무엇을 요청했는지, TokenLab이 어떤 공개 작업을 생성했는지, 그리고 어떻게 청구되었는지?”에 대한 답을 제공해야 하며, 민감한 제공자 세부 정보나 사용자 데이터를 노출해서는 안 됩니다.

기록해야 할 공개 식별자

제공자의 작업 ID, 제공자 URL, 제공자 식별자, Redis 키 또는 민감한 실행 메타데이터를 고객에게 보이는 기록으로 저장하지 마십시오.

기록할 내용

비밀을 누출하지 않고 요청을 진단할 수 있을 만큼 기록하십시오:
  • 엔드포인트, HTTP 메서드, 모델, 상태 코드, 타임스탬프 및 대기 시간.
  • 공개 식별자: request_id, task_id, poll_url, 및 billing_transaction_id가 있을 경우.
  • 정제된 요청 형태: 어떤 필드가 존재했는지, 전체 프롬프트나 개인 미디어 콘텐츠는 포함하지 마십시오.
  • 최종 비동기 상태 응답, 공개 오류 필드 포함.
  • 클라이언트 재시도 횟수 및 재시도가 새로운 작업을 생성했는지 또는 기존 작업을 재개했는지 여부.
명시적인 허가가 없는 한 Authorization, API 키, 관리 토큰, 서명된 URL, 개인 미디어 URL, 전체 프롬프트 및 사용자 개인 데이터를 항상 삭제하십시오.

문제 해결 매트릭스

사용 조정

서버 측 조정을 위해 Management API를 사용하십시오:
GET /v1/management/api-keys/{keyId}/usagescene, model, modelVendor, startDate, 및 endDate로 필터링할 수 있습니다. 이러한 기록을 사용하여 대시보드 페이지를 스크랩하거나 제공자 작업 ID에 의존하지 마십시오. 스트리밍 응답은 스트림이 전송된 후 정산될 수 있으므로, 사용이 나중에 기록되더라도 청구 헤더가 없을 수 있습니다. 비동기 미디어 작업은 최종 폴링 후 정산될 수 있습니다.

지원 패킷 템플릿

지원에 연락할 때 포함하십시오:
  • request_id.
  • 비동기 작업을 위한 task_idpoll_url.
  • 있을 경우 billing_transaction_id.
  • 엔드포인트, 메서드, 모델, 타임스탬프 및 상태 코드.
  • 정제된 요청 형태 및 공개 오류 본문.
  • 예상 결과 및 사용자가 실제로 본 내용.
TokenLab 지원이 명시적으로 마스킹된 샘플을 요청하지 않는 한 API 키, 관리 토큰, 개인 미디어, 전체 프롬프트, 제공자 URL, 채널 ID 또는 비공개 진단 식별자를 포함하지 마십시오.

운영 점검

  • 반복되는 401, 402, 429, 및 5xx 응답에 대해 별도로 경고하십시오; 이들은 보통 다른 소유자가 있습니다.
  • 제품 SLA보다 비종료 상태로 남아 있는 비동기 작업을 추적하십시오.
  • 동일한 사용자 작업 ID에 대한 중복 생성 시도를 추적하십시오.
  • 완료된 작업을 샘플링하고 사용자에게 표시되는 자산, 사용 기록 및 저장된 작업 기록이 일치하는지 확인하십시오.

API 참조