스로틀
스로틀 감지는 스로틀로 인한 손실 시간을 재고, 그것이 내가 개선 가능 문제인지 플랫폼 쪽 문제인지 알려 줍니다. 내 활동만 표시됩니다.
화면 구성
섹션 제목: “화면 구성”- 대표 수치 세 개: 스로틀 비율(스로틀에 걸린 프롬프트의 비율), 대기 시간(해당 기간의 손실 시간), 추세(기간 후반과 전반 비교). 그 아래로 대기가 개선 가능한 것과 플랫폼으로 나뉘고, 한 감지기가 두드러지면 주요 원인 줄이 가장 많은 대기를 유발한 감지기를 짚어 줍니다.
- 기간별 대기 시간 추이 — 기간마다 막대 하나씩, 각 구간의 대기를 유발한 감지기 색으로 구분한 누적 막대 차트.
- 스로틀 이벤트 — 지연이 큰 순으로 정리한 표(시각, 감지기, 상세, 손실 시간, 세션).
- 해당 기간에 서비스 장애가 있었다면, 맨 위 배너가 장애 건수와 영향 시간, 그리고 알려진 Claude 장애와 일치하는지 알려 줍니다.
네 가지 감지기
섹션 제목: “네 가지 감지기”- 속도 제한 — 429/529 응답.
- 지연 급증 — 유난히 느린 응답.
- 프롬프트 재시도 — 확인된 재시도.
- 서비스 장애 — Claude 측 장애.
속도 제한·지연 급증·재시도는 개선 가능 대기로, 작업을 어떻게 배분하고 표현하는지에 따라 달라집니다. 서비스 장애는 플랫폼 문제이며 스로틀 비율에는 포함되지 않습니다. 대기 시간 수치는 일부러 보수적으로 잡습니다. 그냥 느린 응답이나 유휴 시간은 세지 않습니다.
이벤트 열어 보기
섹션 제목: “이벤트 열어 보기”행을 클릭하면 이벤트 상세 패널이 열립니다. 감지기가 무엇을 봤는지, 추정 지연과 손실 시간, 그리고 언제 일어났는지 보여 줍니다. 지연 급증과 프롬프트 재시도의 경우에는 시간 영향과, 해야 할 것과 하지 말 것 예시가 있는 해결 방법 목록도 함께 보여 줍니다.
기간과 단위를 고르고, 새로고침하고, 정보 시트에서 ‘손실 시간’의 의미와 네 감지기가 어떻게 동작하는지 확인합니다.