IBM 과NVIDIA 가제안하는 딥러닝플랫폼 · 2017-07-21 · IBM 과NVIDIA 가제안하는 딥러닝플랫폼 ˹˹ 개요 Faster R-CNN 1. CNN 란? 2. R-CNN 란? 3. Faster R-CNN

IBM 과 NVIDIA 가제안하는

딥러닝플랫폼

딥러닝 프레임워크를 위한 가장 쉽고 빠른 방법,

PowerAI 데모 시연

리더스시스템즈

김대성 팀장


딥러닝플랫폼

개 요

˹

˹Faster R-CNN

1. CNN 란?

2. R-CNN 란?

3. Faster R-CNN 란?

˹

˹

PowerAI 쥬피터

1. PowerAI 시연

2. TensorDebugger 시연

3. Faster-RCNN 시연

˹

˹

성능 측정 데이터 비교

˹

˹목 차


딥러닝플랫폼 딥러닝구현분야






딥러닝플랫폼 DNN(Deep Neural Network) 란?


딥러닝플랫폼

• 대표적인 예 :과적합 - 과적합이란, 현재 갖고 있는 Training data에맞춰서 트레이닝 되거나, 일정 Training data의 패턴이 있다면 그거마저 학습하여 Training Data에 맞춰서 학습 되는 것

• 해결법 : Dropout(아래그림 참고)

Forces the network to have a redundant representation.

has an ear

has a tail

is furry

has claws

mischievous look

cat score

X

X

X

DNN(Deep Neural Network) 란?


딥러닝플랫폼

32

32

3

32x32x3 image5x5x3 filter

convolve (slide) over all spatial locations

activation map

1

28

28

CNN(Convolutional Neural Network) 란?


딥러닝플랫폼

7x7 input (spatially)assume 3x3 filter

7

7

CNN(Convolutional Neural Network) 란?


딥러닝플랫폼 CNN(Convolutional Neural Network) 란?


7

7




7

7




7

7




=> 5x5 output

7

7



• MAX POOLING

1 1 2 4

5 6 7 8

3 2 1 0

1 2 3 4

Single depth slice

x

y

max pool with 2x2 filters and stride 2 6 8

3 4




딥러닝플랫폼 R-CNN 란?

Region Proposal Classification

Selective Search, Edge Boxes 등


딥러닝플랫폼 R-CNN 란?


딥러닝플랫폼

Negative samples for dog SVM

Positive samples for dog SVM

Training image regions

Cached region features

R-CNN 란?


딥러닝플랫폼

Training image regions

Cached region features

Regression targets(dx, dy, dw, dh)

Normalized coordinates

(0.25,0,0,0)Proposal too

far to left

(0,0,-0.125,0)Proposal too

wide

(0,0,0,0)Proposal is

good

R-CNN 란?


딥러닝플랫폼

단점

• Test-time 느림 / 복잡한 multistage training pipeline

• 약 2000개 region proposal을 뽑아서 모두 CNN

computation을 하므로 속도 저하된다.

• 기존의 Region Proposal Method는 CPU연산이다.

• 그것을 개선한 Fast R-CNN 이 있지만 결과적으로 CPU를

이용하기에 느려지는 단점을 해결하지 못했다.

• 이 단점들이 해결 된 것이 Faster R-CNN

R-CNN 란?


딥러닝플랫폼

외부 Region Proposal Method를 사용하지 않고,

Region Proposal Network(RPN)을 사용 + Fast R-CNN

R-CNN 단점 - 기존의 Region Proposal Method는 CPU연산을 GPU 연산하는

RPN으로 제안

Faster - R - CNN 란?


딥러닝플랫폼

Power AI란?

• IBM에서 제공하는 딥 러닝 소프트웨어 ToolKit

• IBM 서버에서만 구동 ( 현재는 S822LC에서만 사용 가능 )

• NVLink 지원

장점

• 빠르고 간편한 배포

• 최고의 처리량을 위한 성능 최적화 프레임 워크 및 라이브러리 조정

• 최신 하드웨어 아키텍처 ( NVLink )

PowerAI 시연


딥러닝플랫폼 PowerAI 시연


딥러닝플랫폼

1.TensorDebugger 시연

TensorDebugger 시연


딥러닝플랫폼 Faster-RCNN 시연

• 측정표

횟수 IBM S822LC Server PCI-P100

1차시기 0.9049 1.2008

2차시기 0.9836 1.3854

3차시기 0.9553 1.1344

4차시기 0.9315 1.0581

5차시기 0.9567 1.1819

6차시기 0.8978 1.1018

7차시기 0.9436 1.1063

8차시기 0.9696 1.0303

9차시기 0.9323 1.1598

10차시기 0.9216 1.1649

평균 0.9397 1.1524

Thank You감사합니다

Documents

IBM 과NVIDIA 가제안하는 딥러닝플랫폼 · 2017-07-21 · IBM 과NVIDIA 가제안하는 딥러닝플랫폼 ˹˹ 개요 Faster R-CNN 1. CNN 란? 2. R-CNN 란? 3. Faster R-CNN