Datadog Dashboards

LiteLLM Proxy — SRE

보통 79다운로드 0회조회 0회댓글 0개리비전 1 등록Grafana 대시보드 #25541 (작성자 punyvulture387)를 변환한 대시보드입니다
가져오는 방법

Datadog에서 Dashboards → New Dashboard → ⚙ Configure → Import dashboard JSON 순으로 이동한 뒤 이 JSON을 붙여넣으세요.

반응

LiteLLM proxy panels Fully compatible with LiteLLM 1.92.0

LiteLLM Proxy — SRE

변환 품질

보통 79

쿼리가 손실 없이 변환된 패널의 비율입니다. 일부만 변환됐거나 지원되지 않는 패널은 원본 PromQL을 노트 위젯에 그대로 남겨 둡니다.

  • 기본 통합0
  • OpenMetrics30
  • 일부 변환6
  • 미지원6

Datadog 기본 통합 메트릭으로 매핑되지 않은 항목

OpenMetrics 이름을 그대로 사용한 메트릭입니다. Datadog 기본 통합으로 수집 중이라면 메트릭 이름을 맞춰 주세요.

litellm_proxy_requests_metric_total ×9litellm_output_tokens_metric_total ×6litellm_input_tokens_metric_total ×5litellm_spend_metric_total ×4litellm_deployment_state ×2litellm_cache_hits_metric_total ×2litellm_cache_misses_metric_total ×2litellm_deployment_requests_total ×2litellm_cached_tokens_metric_total ×2litellm_api_key_max_budget_metric ×2litellm_remaining_api_key_budget_metric ×2litellm_api_key_budget_remaining_hours_metric ×2litellm_in_flight_requestslitellm_deployment_failure_responses_totallitellm_deployment_success_responses_totallitellm_proxy_failed_requests_metric_totallitellm_request_total_latency_metric_sumlitellm_request_total_latency_metric_countlitellm_remaining_requests_metriclitellm_remaining_tokens_metriclitellm_deployment_latency_per_output_token_bucketlitellm_output_reasoning_tokens_metric_total

지원되지 않는 패널

  • Time-to-first-token (TTFT) ${percentile:text} timeseries
  • Total request latency ${percentile:text} timeseries
  • LLM API latency ${percentile:text} timeseries
  • Queue time ${percentile:text} (saturation) timeseries
  • LiteLLM overhead ${percentile:text} (proxy processing, ms) timeseries
  • Latency per output token ${percentile:text} timeseries
태그litellmllmproxysre

리비전 이력

이 대시보드 평가하기

평가하려면 로그인이 필요합니다.

댓글 0개

아직 댓글이 없습니다.