카카오 전사 모니터링/로깅/알람플랫폼 kemi

20
카카오 전사 모니터링/로깅 /알람플랫폼 KEMI issac at ccc [email protected]

Upload: templer7

Post on 16-Apr-2017

829 views

Category:

Software


1 download

TRANSCRIPT

Page 1: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

�카카오�전사�모니터링/로깅/알람플랫폼�KEMI

issac�at�ccc�[email protected]

Page 2: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Who�am�I?�

Issac(임성국)�

2007~2009:�Mobile�Health�Care�

2009~2010:�Open�API�서비스�플랫폼�

2010~2014:�KT�Open�API�플랫폼�

2014�~:�Kakao�Openstack,�CMDB,�Logging,�Monitoring,�…

Page 3: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

KEMI?�

(Kakao�Event�Metering�&�monItoring)�

카카오의�모든�리소스(baremetal,�private�cloud,�public�cloud,�container)에서�발생하는�데이터를�수집하고,�필요한�이벤트를�만들어�필요한�곳으로�전달하자!

Page 4: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

왜�KEMI를?�

구글�has�StackDriver�

Netflix�has�Genie�and�atlas�

kakao?

Page 5: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

왜�KEMI를?�

for�Production�Service�on�the�openstack�

KAKAO�infra(CMDB)와도�자동�연동된�모니터링/알람이�필수!

Page 6: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Ceilometer,�monasca,�cacti,�nagios,�…��

CMDB기반으로�자동화된�툴을�만들어보자!

Page 7: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

KEMI는?

Page 8: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

수집�

조회/알람�

제어�

->�Realtime/Batch

Page 9: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

RealTime

Page 10: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Batch

Page 11: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Set�by�API�&�UI

Page 12: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Log는?

Page 13: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Realtime�&�Batch

Page 14: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI
Page 15: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Issue…

Page 16: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

save�&�query�large�time�series�data(more�than�year)�

-�slow�query�&�cluster�hang�

->�restructuring�

origin�hbase�key:�[salt]<metric_uid><timestamp><tagk1><tagv1>[…

<tagkN><tagvN>]�

->�

[salt]<resource_id><timestamp><metric_uid><metric�value1>[…<tagkN><tagvN>]

Page 17: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Elasticsearch�Log�Indexing:��

no�replica,�more�shards,�ES�on�Hadoop�

kafka�Msg�Corruption:�

invalid�message�exception�handling

Page 18: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Is�it�enough?

Page 19: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Automatic�Resource�Mgmt�

Prediction�

More�features��

&�Open�source…

Page 20: 카카오 전사 모니터링/로깅/알람플랫폼 KEMI

Thanks�

(@hardy,�@jenny,�@joanne,�@andrew�&�@@ccc)