텔레메트리

텔레메트리는 원본 데이터 화면입니다. 다른 페이지가 작업을 해석해 준다면, 이 화면은 본인 세션의 숫자(비용, 토큰, 요청, 오류, 세션 소요 시간)를 그대로 탭으로 나눠 보여 줍니다. 어떤 수치를 직접 확인하거나, 다른 화면에서 갑자기 치솟은 값을 파고들고 싶을 때 이 화면을 엽니다.

대표 타일

탭 위에 타일 네 개가 고른 기간을 다룹니다.

• 총 비용 — 사용량의 API 환산 비용. 가격을 매길 수 없는 모델은 오해를 부르는 $0.00 대신 —로 표시합니다.
• 세션 — 돌린 세션 수.
• 평균 비용 / 세션 — 총 비용을 세션 수로 나눈 값.
• API 요청 — 보낸 요청 수.

탭 다섯 개

비용 · 토큰 · 요청 · 오류 · 소요 시간 다섯 탭이 있고, 각 탭의 차트는 집계 단위(시 · 일 · 주 · 월)를 차트마다 따로 정할 수 있습니다.

비용

• 지출 추이 — 기간별 지출을 시간축으로 보여 줍니다.
• 비용 분포 — 비용이 어디에 얼마나 몰려 있는지 봅니다.
• 모델 분류 — 모델별로 비용 · 요청 수 · 요청당 평균 · 비중을 담은 표입니다. 가격을 매길 수 있는 모델만 집계합니다.

토큰

먼저 토큰 타일 여섯 개가 나옵니다.

• 총 토큰 · 전체 사용량 — 이 기간에 쓴 토큰 총량.
• 새 입력(Fresh Input) — 모델이 처음 보는 입력 토큰.
• 출력 토큰 — 모델이 생성한 토큰.
• 캐시 재사용(Cache reuse) — 캐시에서 제공되어 비용이 더 적게 드는 맥락.
• 캐시 쓰기(Cache write) — 캐시에 새로 기록된 토큰.
• 평균 토큰 / 요청 — 요청 하나에 평균 몇 토큰이 오갔는지.

그 아래에는 세 가지 차트가 이어집니다.

• 토큰 사용량 추이 — 기간별 토큰 사용량을 입력·출력·캐시로 나눠 쌓아 보여 주는 영역 차트.
• 토큰 분포 — 전체 토큰을 모델별 점유율로 나눈 원형(도넛) 차트.
• 모델별 토큰 분류 — 모델마다 입력·출력·캐시 재사용·캐시 쓰기 토큰을 정리한 표.

요청

• 요청 추이와 세션 추이 — 기간별 요청 수와 세션 수.
• 활동 히트맵 — 요일 × 시간 격자로 요청이 언제 몰리는지 보여 줍니다.

오류

• 오류 추이 — 기간별 오류 수. 하향 추세면 실행이 깔끔해지는 것입니다.
• 상태 코드별 오류와 모델별 오류 — 오류를 상태 코드와 모델로 나눠 봅니다.
• 최근 오류 목록과 재시도 패턴 — 최근 발생한 오류와, 같은 요청이 얼마나 재시도됐는지.

소요 시간

• 평균 세션 시간 · 중간값 세션 시간 · 평균 LLM 시간 지표.
• 평균 세션 시간 추이와 시간 분포.
• LLM vs 유휴 시간 — 모델이 실제로 일한 시간과 기다린 시간의 비중.
• 최장 세션 — 가장 오래 걸린 세션들.

읽는 법

기간을 고르고, 차트마다 집계 단위(시 / 일 / 주 / 월)를 정합니다. 각 차트는 가격 정보가 없거나 값이 0인 모델을 빼고 그려 “지출의 0%” 같은 오해를 막습니다.