1, 빅데이터 시대의 인공지능 문동선 v2
TRANSCRIPT
빅데이터 시대의 인공지능2015.12문동선
Agenda• A.I.• Trends• Machine learning overview• What’s deep learning?• Why deep learning?• Demo• Future
Big Data?? Machine Learning? A.I.?
나도 뭔가 해야하나 ?
big data + machine learn-ing
무인 자동차 시대 임박• 인공지능에게 내 목숨을 맡길 수 있을까 ?• 앞에 많은 사람이 나타난다면 ?• 다수를 살리기 위해 주인을 희생하는 운전을 ?• 주인을 살리기 위해 다수를 희생하는 운전을 ?
• 수많은 택시 기사 , 트럭 운전사는 백수 ?
Google Trends
Big data
Data anal-ysis
Machine learning
Deep learning
Google Trends
왜 big data 가 갑자기 이슈일까 ?
과거에는 ?
왜 big data 가 갑자기 이슈일까 ?
Data
Ma-chine
수동적 Big Data 능동적 Big Data마케팅 지원 돈버는 서비스
A.I.Machine Learn-
ingSupervised Unsupervised
Deep Learning
Expert system
Fuzzy
Bayesian
SVM
PCA
KNN
Fuzzy
PCA
PCA
Fourier Series
Eigen Face
모라벡의 역설
Geoffrey Hinton• 토론토 대학 교수• 구글 (2013~, DNNresearch 가 합병 )• Backpropagation 의 아버지• RBM 으로 pre-training 하여
local minimum 문제 해결
Andrew Ng• Stanford 교수• Baidu - Chief Scientist• Coursera 창립자• Google brain project• google• 16000 CPU cores
Yann Lecun• 뉴욕대 교수• 페이스북 AI 연구소• LeNet 의 아버지• DjVu image Compression• Lush 언어
Yoshua Bengio• 몬트리올대 교수• Pylearn2(Lisa lab)• 대학에 남아서 연구만 ..• CIFAR co-director• 각종 학회지 editor
Deep Learning 의 성공 요인• 알고리즘• Unsupervised learning
• RBM / DBN• Autoencoder (Stacked/De-
noise)• Dropout• Sparse encoding• CNN (LeNet, googLeNet)• RNN
• HW• GPGPU
• Big Data• Google, Facebook, Amazon
etc.• Smart phone
P(X)
P(Y|X)
변화의 시작…
Input
Simplest Fea-tures
Complex Fea-tures
MappingFrom Features
Output
Input
Simplest Fea-tures
MappingFrom Features
Output
Input
Hand-designedFeatures
MappingFrom Features
Output
Input
Hand-designedFeatures
Output
Rule-based sys-tem
Classic machine learn-ing
Representation learn-ing
Deep learn-ing
Deep Belief Network
Belief Network?
Representation Learning
Manifolds
ALEXNET• 구글을 멘붕에 빠트린 그것…• Alex Krizhevsky• Hinton 교수 제자• http://
papers.nips.cc/paper/4824-imagenet-classification-with-deep-
Convolutional Neural Network
Image 인식은 CNN
GoogLeNet
RNN• 음성인식• 위성이 지구 ( 궤도 / 괴도 ) 를 돌고 있다 .• ( 궤도 / 괴도 ) 루팡을 읽었다
• 기계번역• The town lies on the coat.• She lies about her age.
Transfer Learning
Image 인식
바이두 쇼핑 추천
Deep face (Facebook)
Deep face (Facebook)
Image 인식 데모• http://deeplearning.cs.toronto.edu/
MS Skeype• https://www.youtube.com/watch?v=11LgippzOvU
Game AI• DeepMind tech( 구글 2014 년 인수 )• https://www.youtube.com/watch?v=V1eYniJ0Rnk
• Mario Demo• https://www.youtube.com/watch?v=qv6UVOQ0F44
기사 쓰기• http://www.bloter.net/archives/227482
손글씨 쓰기
코딩도 ? /* * Increment the size file of the new incorrect UI_FILTER group information * of the size generatively. */static int indicate_policy(void){ int error; if (fd == MARN_EPT) { /* * The kernel blank will coeld it to userspace. */ if (ss->segment < mem_total) unblock_graph_and_set_blocked(); else ret = 1; goto bail; } segaddr = in_SB(in.addr); selector = seg / 16; setup_works = true; for (i = 0; i < blocks; i++) { seq = buf[i++]; bpf = bd->bd.next + i * search; if (fd) { current = blocked; } } rw->name = "Getjbbregs"; bprm_self_clearl(&iv->version); regs->new = blocks[(BPF_STATS << info->historidac)] | PFMR_CLOBATHINC_SECONDS << 12; return segtable;}
작곡도 ?• https://www.youtube.com/watch?v=0VTI1BBLydE
Motion generation
어디까지 왔는가 ?• 알아보지만 영혼이 없다…
필요한 준비물은 ?
Tesla K80 (NVIDIA)
• 8.74 Tflops• 3GFlops with Xeon E5-2630
• 288 GB/s• 24GB Ram• 4992 cuda cores• $4,275(Amozon)
GTX TitianX (NVIDIA)
• 7 Tflops• 336.5 GB/s• 12GB Ram• 3072 cuda cores
DIGITS DEVBOX• 4 TitanX GPU (with 12GB/gpu)• 64GB DDR4• Ubuntu 14.04• Caffe, Theano, Torch• $15,000 ( 기본사양 , usa)
Softwares• TensorFlow
• Python / C++• https://www.tensorflow.org/
• Pylearn2 / Theano• python• http://deeplearning.net/software/pylearn2/
• Caffe• C++• http://caffe.berkeleyvision.org/
• Torch7• jua• http://torch.ch/
• DL4J• java• http://deeplearning4j.org/
CUDAcuDNN+
TensorFlow 예제 코드 좀 볼까요 ?
Big Data• 보통은 이게 없어서 진입장벽• 하지만 제일 중요한게 함정• 공개된 Dataset 으로 공부 / 개발은 가능 (MNIST, CIFAR-10
etc.)• 포탈이 매우 유리• 고객 동의 없이 학습에 사용하는 것은 불법임에 주의해야함 .
우리 나라는…• 네이버
• 이미지 , 음성처리 등에 다양하게 적용중• http://deview.kr/2014/session?seq=26
• 엔씨소프트• AI 랩에서 게임에 적용중이라던데…
• 클디• 카이스트 출신 스타트업 . ILSVRC 세계 7 위 .• http://scope.cldi.io/
• 카이스트 김대식 교수• 서울대 장벽탄 교수
• https://www.youtube.com/watch?v=v3veAMEwoyU• 엑소브레인
• 2013~2013 년 1070 억원• ETRI, KAIST, Postech 등 26 개 연구기관 366 명 참여 프로젝트
우리의 미래는 ?택배는 드론이…
택시는 자동운전…콜센터는 딥러닝…
기사작성 딥러닝…부동산중개 딥러닝…
세일즈 딥러닝…헬스 PT 도 딥러닝…
동시통역도 딥러닝…회계사도 딥러닝…
언젠가 게임 개발 로봇도… .
봇 , 매크로 , 그리고 사람…봇을 막을 수 없다면게임의 미래는 ?
Game and AI뛰어난 AI 를선보였던Starcraft
The End