Prometheus에는 vllm: 지표가 존재하지만 화면이 nv_ 지표를 조회해 빈 결과를 표시한다.
원본에서 지표가 저장된 사실은 확인됐다. UI가 runtime의 metric 형식을 잘못 선택하는 문제가 보고됐으나 최종 수정 빌드 적용 결과는 없다.
실제 저장된 vllm: 지표를 Prometheus에서 직접 조회한다. DSE-59355 수정 포함 빌드가 확인되면 업그레이드하고 UI 조회도 재검증한다.
확인 수준: 추가 조사 해법 · 해당 케이스 적용 결과 미확인
적용 조건: <...>와 예시 DB·테이블·경로·수치는 실제 확인값으로 바꾼다. 명령과 메뉴는 참고 문서를 바탕으로 보강한 예시이며 대상 시스템에서 실행하지 않았다. 버전·원인에 따른 분기와 남은 확인 사항은 아래에 명시한다.
nv_ 조회가 빈 결과이고 동일 endpoint의 vllm: 조회가 있으면 수집 장애와 UI 매핑 장애를 구분할 수 있다.CDP_TOKEN 환경변수를 사용한다.curl --fail --silent --show-error --cacert '<ca-file>' --get \
-H "Authorization: Bearer ${CDP_TOKEN}" \
--data-urlencode 'query=vllm:num_requests_waiting' \
'https://<caii-domain>/prometheus/api/v1/query' | jq '.data.result'
serving_kserve_io_inferenceservice label을 사용했다. 해당 label이 실제 존재할 때만 다음처럼 조회한다.curl --fail --silent --show-error --cacert '<ca-file>' --get \
-H "Authorization: Bearer ${CDP_TOKEN}" \
--data-urlencode 'query=vllm:request_success_total{serving_kserve_io_inferenceservice="<endpoint-name>"}' \
'https://<caii-domain>/prometheus/api/v1/query' | jq '.data.result'
pod label을 추측해 필터링하지 않는다. 런타임별 metric 종류가 달라 NIM 패널을 그대로 복제할 수 없는 경우도 있다.metric-format annotation을 임의로 패치하는 방법은 이 문서의 검증된 해결책이 아니다.시험 추론 전후 해당 endpoint의 request_success_total 증가와 Metrics UI의 데이터 표시를 각각 확인한다. 직접 Prometheus 조회만 성공하면 우회 상태이며 UI 수정 완료가 아니다.