latenzy · model latency comparison
가져오는 방법
Datadog에서 Dashboards → New Dashboard → ⚙ Configure → Import dashboard JSON 순으로 이동한 뒤 이 JSON을 붙여넣으세요.
반응
Per-model LLM latency (TTFT, total, throughput, rate-limit pressure) for Claude, OpenAI, and Gemini models, measured by the latenzy synthetic prober. Compare model A vs model B, and the same model over different endpoints (direct / Bedrock / Vertex).
변환 품질
보통 75쿼리가 손실 없이 변환된 패널의 비율입니다. 일부만 변환됐거나 지원되지 않는 패널은 원본 PromQL을 노트 위젯에 그대로 남겨 둡니다.
- 기본 통합0
- OpenMetrics4
- 일부 변환1
- 미지원1
Datadog 기본 통합 메트릭으로 매핑되지 않은 항목
OpenMetrics 이름을 그대로 사용한 메트릭입니다. Datadog 기본 통합으로 수집 중이라면 메트릭 이름을 맞춰 주세요.
latenzy:ttft_seconds:p95_1h ×2latenzy:request_duration_seconds:p95_1hlatenzy:tokens_per_second:p50_1hlatenzy:probe_failure_ratio:1hlatenzy:rate_limited_ratio:1h지원되지 않는 패널
- Probe staleness · seconds since last success
timeseries
리비전 이력
- 리비전 1Converted from grafana.com revision 1JSON 다운로드
이 대시보드 평가하기
평가하려면 로그인이 필요합니다.댓글 0개
아직 댓글이 없습니다.