21
Copyright © 2019 Whatap – Developed by WhaTap Labs Inc. 2019.05.23 Kubernetes 모니터링 소개 자료 ()와탭랩스

소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

  • Upload
    others

  • View
    17

  • Download
    0

Embed Size (px)

Citation preview

Page 1: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

2019.05.23

Kubernetes 모니터링소개 자료

(주)와탭랩스

Page 2: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

목차

Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

1. Kubernetes 개요

2. Kubernetes 구성 및 whatap 적용

3. Kubernetes 모니터링 주요 기능

Page 3: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 3 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

“Kubernetes 등장은 MSA 아키텍쳐로 촉발된 빠른 개발 배포 및 운영 자동화 요구에 부합한다”

Kubernetes 등장의 배경1. Kubernetes 개요

Kubernetes 등장 배경 전통적인 Monolithic Architecture 로 엔터프라이즈 어플리케이션을 개발할때 발생했던 모든 이슈들(배포 지연, 모듈 통합 비용 증가, 개발 조직의 관료화 , 모듈간 강한 결합으로 인한 문제해결 시간 및 비용 증가)이 기업의 성장의 병목이 된다는 인식이 업계에 공유되고 있었습니다 . 이것에 대한 해결책으로 모듈간 느슨한 결합을 허용하여 통합 비용을 낮추고 개발 조직을 분할하여 개발 시작 선결 요소를 단순화하는 사례(Micro Service Architecture)가 대안으로 제시되고 있습니다 .

MSA 아키텍쳐를 채용하게 되면 모듈과 개발팀이 분할됨에 따라 개발 및 배포의 주기가 빨라지고 동시화 되어 개발 프로세스 파이프라인의 속도가 기존 방식보다 훨씬 빨라지기 시작했습니다 . 새로운 모듈 배포와 변경사항이 많아짐에 따라 운영환경도 빠르게 대응하는것이 장점으로 부각되었습니다 .

쿠베르네티스는 컨테이너 기반으로 모든 운영 자원(CPU, Memory, Storage, Networking)의 제어를 소프트웨어화 하였습니다 . Backplane 이 운영진이 설정한 정책을 기반으로 모듈의 개발 배포 운영을 포함한 어플리케이션 라이프싸이클 전부를 자동제어 하기 때문에 대규모 클러스터를 실시간으로 업데이트하여 요구되는 Time to Market을 실현할수 있도록 도와줍니다 .

Page 4: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 4 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

“Kubernetes 환경에서 Transaction 모니터링 만으로는 근본원인 파악이 어려움”

Kubernetes 모니터링시 문제점

1. Kubernetes 개요

와탭 쿠베르네티스 모니터링은 MSA 기반 CI-CD파이프라인에서 비롯된 부하패턴변화와 사용자의 증감을 포함한 외부변동사항이 트랜잭션에 미치는 영향을 컨테이너 자원 관점으로 분석합니다 . 변동 주체가 많고 시간에 따른 변동성이 높은 컨테이너 환경에서 트랜잭션의 성능 정보만으로는 병목의 근본 원인을 파악하는것이 어렵거나 불가능할 수 있습니다 .

Transaction Slow

Transaction Slow

No DataNo Data

No Data

No Data

No Data

No Data

No Data

No Data

No Data

?

Page 5: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 5 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

쿠버네티스 모니터링 범위

1. Kubernetes 개요

HOST HOST

CONTAINER CONTAINER CONTAINER

AP

P

AP

P

AP

P

AP

P

AP

P

AP

P

AP

P

AP

P

AP

P

쿠버네티스 마스터 : Service, POD, 계정, 보안과 관련된 정보 모니터링

호스트(노드) : 호스트의 CPU, MEM, DISK, Network, OS에 대한 모니터링

컨테이너 : 각각의 컨테이너가 사용 가능한 범위의 리소스(CPU, MEM, DISK, NETWORK.. )등의 모니터링

어플리케이션 : 컨테이너 안에서 구동되는 서비스 되는 어플리케이션의 APM 이 필요하다.

Page 6: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 6 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

Micro service 구성하기

2. Kubernetes 구성 및 whatap 적용

petbang-apipetbang-front

사용자 File File

Transaction A Transaction B

Front 팀 Backend 팀

Page 7: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 7 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

2. Kubernetes 구성 및 whatap 적용

Kubernetes Cluster 구성하기Master 1대 Node 4대 구성(동영상 참조)

Kubernetes clusterMaster

Node Node Node Node

front

POD

api

POD

front

POD

api

POD

front

POD

api

POD

front

POD

api

POD

Page 8: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 8 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

컨테이너 맵

활성화된 Node 들의 정보와 Node 내에서 서비스 중인 POD 들을 실시간으로 보여주며CPU 사용량을 기준으로 문제의 Node 와 Container를 구분해 낼 수 있습니다.관심있는 Node 및 Container를 선택해서 상세 정보를 제공합니다.

3. Application Monitoring 주요 기능

Node 이름 컨테이너갯수

Pod

Pod Pod

비활성화된 container

활성화된 container

CPU > 90% CPU > 80%

NODE CPU 사용률

Node, Image, Pod 등의 기준으로 Group 분류 가능

level2 단위로 분류 가능 원하는 정보만 Filter 가능

Page 9: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 9 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

컨테이너 맵 - 기능

이벤트 - 상단에 시간별 이벤트를 확인할 수 있는 타임라인이 있어 최근 시간에 어떤 일이 발생 했는지 확인할 수 있습니다.노드 및 컨테이너 - 마우스 클릭으로 해당 정보와 관련된 정보를 볼 수 있는 메뉴가 보여져 손쉬운 접근이 가능합니다.

3. Application Monitoring 주요 기능

실시간 이벤트 확인. 세부정보 확인 가능

노드 관련 메뉴

Container 관련 메뉴와 Pod 관련 메뉴가 분리되어Container 의 세부 정보를 확인할 수도 있으며 Pod의 집합에 관련된 정보를 확인할 수도 있음.

Page 10: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 10 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

컨테이너 맵 - 이벤트 확인

컨테이너 맵은 실시간 현재의 상황만을 파악하지만 이전 시간대에 어떤일이 발생했는지 확인하기 어려움상단의 이벤트 타임라인은 현재 및 과거에 발생한 이벤트 들을 Level 별로 나누어 표기되어 한눈에 확인 할 수 있음이벤트를 클릭하면 해당 시간대에 발생한 이벤트를 순서대로 확인 가능( 휠-확대축소, 시간 이동 가능 )

3. Application Monitoring 주요 기능

Page 11: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 11 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

성능요약

쿠버네티스의 중요 지표들을 표시해 줍니다. Container, Image, Node, Service들의 갯수를 표시해 주며 시스템이 증가되는 것에 대비하여 문제가 생기는 중요 포인트들을 TOP으로 표기해줍니다.

3. Application Monitoring 주요 기능

각종 수치 표현

Container, Image, HostNode, Service 등의 갯수 표현

타입별 리소스 표현

Container 와 Node 각각의 CPU, Memory 사용량을 기준으로 TOP 10 제공

Image, Replicaset 별로 사용률

많이 사용되는 Image 와 Replicaset 을 확인 가능

Application의 위험 수치 확인

Container에서 서비스 중인 Application의 CPU, Heap 메모리 TOP 확인 가능

Page 12: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 12 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

쿠버네티스 마스터쿠버네티스를 관장하는 마스터에서 확인이 가능한 정보들 입니다. Daemonset, Deployments, Ingress, Node, Pod, Persistent Volumes, Replicaset, Service, Events 등의 정보를 조회 할 수 있습니다.

3. Application Monitoring 주요 기능

Daemonset

Deployments

Node

Pod

Service

Page 13: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 13 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

노드 목록 - 상세 정보노드와 관련된 리소스 정보들을 상세히 확인 할 수 있습니다.노드에 활성화된 컨테이너들의 리소스 정보 또한 확인이 가능합니다.

3. Application Monitoring 주요 기능

Node 선택시에 상세 Resource 확인

Node 안에서 활성화된 Container 들의 Resource

Page 14: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 14 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

컨테이너 목록활성화 중인 container 들의 리소스 정보를 확인 할 수 있으며 다중선택을 통해 리소스 비교 및 기간 조회로 상태를 확인 할 수 있습니다.

3. Application Monitoring 주요 기능

Page 15: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 15 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

컨테이너 카운터Container에게서 확인 할 수 있는 Resource 들을 chart 로 확인 할 수 있음기간별로 확인이 가능하며 Container map 에서 Container를 선택해서 확인 할 수 있음

3. Application Monitoring 주요 기능

Page 16: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 16 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

컨테이너 볼륨노드와 컨테이너에 연결된 볼륨 정보를 확인할 수 있습니다.

3. Application Monitoring 주요 기능

Page 17: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 17 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

에이전트 목록노드 에이전트의 환경 정보 및 설정, 로그들을 확인할 수 있습니다.서비스 되고 있는 어플리케이션들의 정보를 확인 할 수 있습니다.

3. Application Monitoring 주요 기능

Page 18: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 18 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

서비스 별 대쉬보드APM 분석 대쉬보드를 Container 별, POD 별 , Node 별 구분을 통해서 데이터 조회가 가능합니다.서비스 별로 시각화된 차트를 제공하여 서비스 및 시스템의 정확한 현재 상태를 담당자에게 직관적으로 인지 시킬 수 있음컨테이너, Pod, Node 별 선택으로 관심사에 Focus 하여 정보를 찾을 수 있음

3. Application Monitoring 주요 기능

컨테이너 각각으로 선택

쿠버 노드별로 선택

Pod 별 선택

Page 19: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 19 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

어플리케이션 카운터선택된 Pod(service) 별로 Resource 정보를 기간별로 조회해 볼 수 있음TPS, 응답시간, CPU 사용량, 트랜잭션 URL, SQL등의 추세를 서비스 별로 확인 할 수 있음

3. Application Monitoring 주요 기능

Page 20: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 20 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

히트맵 트랜잭션Pod(Service) 별 히트맵을 확인 할 수 있어 Micro service 에서 역할별 서비스를 분할해서 트랜잭션의 분포를 볼 수 있음관리 영역별로 서비스를 분할 해서 확인 할 수 있으므로 느려진 트랜잭션을 찾는데 시간을 더욱 단축 할 수 있음

3. Application Monitoring 주요 기능

X축: 시간 / Y축: 트랜잭션 완료까지의 소요시간정상 트랜잭션: 청색 계열에러 트랜잭션: 적색 계열트랜잭션 밀도가 높을 수록 짙은 색상

Page 21: 소개 Kubernetes 자료 모니터링e1%84%8b%e1%85%aa%e1... · 2019-05-28 · 1. kubernetes 개요 host host container container container app app app app app app app app app 쿠버네티스

- 21 -Copyright © 2019 Whatap – Developed by WhaTap Labs Inc.

멀티 서비스 대쉬보드서비스 별로 각각의 대쉬보드를 통해서 Micro service 안에서 진행되고 있는 상태를 서비스 별로 구분해서 볼 수 있는 대쉬보드입니다. 각 서비스별 현재 상황을 감지할 수 있어 어떤 서비스에서 시간이 더 걸리고 장애가 발생 되는지를 확인 할 수 있습니다.

3. Application Monitoring 주요 기능

애플리케이션애플리케이션

front api

Petbang프로젝트

front

POD

api

POD