슬라이드 1 - agilesoda · 배포/모니터링 5 3 project 정보조회/설정 4 model service...

36

Upload: others

Post on 23-Feb-2020

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링
Page 2: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링
Page 3: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

01

Page 4: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

Agile Software Defined AI

AgileSoDA

Page 5: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

01

02

Page 6: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

6

!

!

!

!

!

!

!

!

!

!

Page 7: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

7

* SparklingSoDA는 Spark, Docker, Kubernetes 기반임을 표현한 네이밍입니다.

데브옵스에 답이 있다

Page 8: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

01

02

03

04

05

Page 9: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

9

Page 10: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

10

AI Engineering Framework & Tools

Model Service Build

Model Service Test

Model Service Dev

서비스 구성도 All about AI DevOps

CI : Continuous Integration / CD : Continuous Deploy

Page 11: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

11

솔루션 개념도

* DataDam : on-premise, Cloud, Hybrid Cloude, CPU/GPU 등 다양한 환경에서 BigData 저장 및 관리용 Lite Layer.

Page 12: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

12

Data Integration

Data collection

Data Analysis

Data Cleansing

전략/시나리오 개발

Model Service Setup

Model Service Build

Model Service Test

Model Service Deploy

Monitoring & Debugging

앱 개발

AI 분석·전개 플로우

* AestheticSoDA : 데이터부족 및 품질문제를 해결하기 위한 애자일소다의 데이터 생산, 차원축소 솔루션입니다.BakingSoDA : 강화학습 기반의 전략 및 룰 등의 비즈니스 서비스를 자가발전 시키는 애자일소다의 솔루션입니다.

DevAI AIOps

Feature Engineering

Model Evaluation

Parameter Tuning &Re-Training

Model Training

Page 13: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

13

• AI 각종 산출물의 기업의자산으로 관리 가능

• AI 관련 전부서의 협업 구조 체계 마련

• 각종 AI 모델의 운영 및 결과 모니터링, 평가

• 분석가에 최적화되고개인화된 분석 환경의 빠른 제공

• 빠른 모델 학습 및 실험 환경 마련

• 다양한 글로벌 리딩 AI 라이브러리, 프레임워크 등과 유연한 연동

• 모델의 공유 등 협업 기능으로 분석가 역량 제고

• 각종 모델 및 산출물의 히스토리 관리 및 모델 재현 가능

• 고가용, 고성능분산환경의 빠르고 손쉬운

학습·분석 시스템 운용

• 모델 학습, 분석, 운영까지 전과정의 리소스

등의 모니터링 가능

• 각종 오픈소스 관리의 용이성 확보

Page 14: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

14

Shiny

Python, R

Machine Learning

Spark

Tensor Flow

Python

Machine Learning

Master Node Worker Node 1 Worker Node 2 Worker Node N

H2O

Spark (Worker)

Python, R

HDFS

CPU / GPU

Shiny

Python, R

Machine Learning

Spark

Tensor Flow

H2O

Spark (Worker)

Python, R

HDFS

CPU / GPU

H2O

Spark (Worker)

Python, R

HDFS

CPU / GPU

논리적, 물리적 구성도

Docker ContainerDocker ContainerDocker Container

Page 15: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

01

02

Page 16: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

16

Key Feature: TALKSoDA

Page 17: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

17

Talented UI Key Feature: TALKSoDA

Page 18: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

18

Agile Build Key Feature: TALKSoDA

Page 19: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

19

Linked Key Feature: TALKSoDA

Page 20: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

20

Kubernetes Based Key Feature: TALKSoDA

• Horizontal Scaling : 임계치에 자동확장 및

운영자 임의의 손쉬운 환경설정 변경 가능• Load Balancing & Scale Out : 서비스의

효율적인 운영 및 서비스 확장 용이성 확보• Legacy System 연동 : 보안, 형상관리.

기 구축한 Data Lake 등과의 연계 용이

• 프로젝트/모델서비스별 환경 구축

• Ready-Made된 분석 환경 이미지 제공 관리

• Multiple, Automatic Work 및 process 관리

• 무중단 및 버전 스위칭용 Model Server 제공

Page 21: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

21

5

5

5

5

5

Speedy Training Key Feature: TALKSoDA

Page 22: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

22

5

5

5

5

5

5

Optimized for Enterprise Key Feature: TALKSoDA

Page 23: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

23

DevOps Key Feature: TALKSoDA

5

5

5

5

Page 24: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

24

Asset Key Feature: TALKSoDA

Page 25: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

25

ACONTENTS

ACONTENTS

ACONTENTS

Summary Key Feature: TALKSoDA

Page 26: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

01

02

Page 27: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

27

확장 솔루션 Expansion

* AestheticSoDA : 데이터부족 및 품질문제를 해결하기 위한 애자일소다의 데이터 생산, 차원축소 솔루션입니다.BakingSoDA : 강화학습 기반의 전략 및 룰 등의 비즈니스 서비스를 자가발전 시키는 애자일소다의 솔루션입니다.

Page 28: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

28

산업특성화 모델 패키지(이미지부문) NakedSoDA Expansion

* NakedSoDA는 외피를 벗기고 표피속까지 그 형태와 속성을 명확히 볼 수 있음을 표현한 네이밍입니다.

Page 29: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

29

1

2

3

4

5

1

2

3

4

5

Reference

Page 30: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

30

DockerImage

Model Data & Object 전송(Create/Update/Remove Model) Project 정보 전송Docker Image ID & Tag 전송

1

Model Service 통테계배포/모니터링

5

Project 정보 조회/설정3

Model Service 빌드 & 테스트4

Pull Docker Image/Library

Model Service 운영계배포/모니터링

6

Pull, Push Git

Model Service & Object 이관

구동 Shell 호출

R Package

PythonPackage

Reference

Pyth

on

Sparklyr

RSparkling

H2O

Page 31: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

01

02

Page 32: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

Company Overview

Appendix

Page 33: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

33

Market Requirement & Our Solution Appendix

Page 34: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

34

AI Learning2Learn Appendix

Page 35: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

35

AI Learning2Learn

Learn for

Assetization

Learn for

MetafyingLearn for

Optimizing

Appendix

Page 36: 슬라이드 1 - AgileSoDA · 배포/모니터링 5 3 Project 정보조회/설정 4 Model Service 빌드& 테스트 Pull Docker Image/Library Model Service 운영계 배포/모니터링

Copyright © AgileSoDA www.agilesoda.ai

THANK YOU.