- 키 보호: 환경 변수나 시크릿 매니저에 보관하고 브라우저나 모바일 코드에 넣지 마세요. 환경마다 별도 키와 월 한도를 쓰세요.
- 올바른 오류만 재시도:
429,500,502,503,504는 백오프와 지터로 재시도하고Retry-After를 따르세요. 비스트리밍 요청은 모든 재시도에 같은Idempotency-Key를 쓰세요. - 비용 관리:
max_tokens를 필요한 만큼만 설정하고, 프롬프트를 짧게 유지하고, 작업에 맞는 가장 작은 모델을 고르고, 잔액 알림을 켜 두세요. - 긴 응답은 스트리밍: 사용자가 떠나면 요청을 취소하세요. 시작된 출력은 비용이 듭니다.
- 디버깅: 모든 호출의
x-request-id를 기록하고(프롬프트는 제외)code필드를 기준으로 처리하세요.
자세한 설명과 코드 예제는 영어 문서에 있습니다.