[MLOps] 쿠버네티스 프로메테우스&그라파나 설치하기

GitHub

MLOps 관련 코드 내용은 GitHub에서 관리하고 있습니다.

https://github.com/Seokii/Study-MLOps

GitHub - Seokii/Study-MLOps: Study MLOps with Kubeflow

 

 

 

참고 사이트 : Prometheus Docs, Grafana Docs, 모두의 MLOps

 

프로메테우스(Prometheus) 와 그라파나(Grafana) 는 모니터링을 위한 도구입니다.
안정적인 서비스 운영을 위해서는 서비스와 서비스가 운영되고 있는 인프라의 상태를 지속해서 관찰하고, 관찰한 메트릭을 바탕으로 문제가 생길 때 빠르게 대응해야 합니다.
이러한 모니터링을 효율적으로 수행하기 위한 많은 도구 중 오픈소스인 프로메테우스와 그라파나가 있으며, 이를 간단히 알아보고 설치하도록 하겠습니다.

 

프로메테우스(Prometheus)란?

공식 문서에 따르면 프로메테우스는 다음과 같은 역할을 합니다.

프로메테우스는 사운드 클라우드 시스템에서 개발된 오픈 소스 모니터링 시스템입니다.
프로메테우스는 메트릭 정보를 수집하고 시계열 데이터로 저장합니다.

 

그라파나(Grafana)란?

공식 문서에 따르면 그라파나는 다음과 같은 역할을 합니다.

그라파나 오픈 소스 소프트웨어를 사용하면 메트릭, 로그 및 추적이 저장된 위치에서 쿼리, 시각화, 경고 및 탐색을 수행할 수 있습니다.

 

프로메테우스는 다양한 대상으로부터 Metric을 수집하는 도구이며,

그라파나는 모인 데이터를 시각화하는 것을 도와주는 도구입니다.

서로 간의 종속성은 없지만 상호 보완적으로 사용할 수 있어 함께 사용되는 경우가 많습니다.

 

 

설치하기

helm repo add seldonio https://storage.googleapis.com/seldon-charts
helm repo update

helm repository 추가와 업데이틀 진행합니다.

 

helm install seldon-core-analytics seldonio/seldon-core-analytics \
  --namespace seldon-system \
  --version 1.12.0

helm으로 seldon-core-analytics를 설치합니다.

네임스페이스를 seldon-system으로 설정합니다.

(이전 글에서 설치한 Seldon core와 연동하기 위해서)

 

kubectl get pod -n seldon-system | grep seldon-core-analytics

kubectl 명령어를 통해 seldon-system의 pod를 조회합니다.

정상적으로 설치가 되었으며, 상태도 running임을 확인할 수 있습니다.

 

 

설치 확인

kubectl port-forward svc/seldon-core-analytics-grafana -n seldon-system 8090:80

포트 포워드를 통해 직접 접속해서 확인할 수 있습니다.

초기 로그인 정보는 아래와 같습니다.

email/username: admin

password: password

 

사진과 같이 왼쪽 대시보드 메뉴에서 mage를 선택해 들어가면,

Prediction Analytics를 클릭해 들어가면 Seldon Core API 대시보드를 확인할 수 있습니다.