Embed Size (px)
Citation preview
Many-SC 아키텍처 기반 OpenCL 프레임워크상에서의 응용프로그램 구현 및 최적화
2014. 9. 30
신영길
Computer Graphics & Image Processing Lab
Seoul National University
목표
Many-SC 아키텍처의 성능 평가를 위한 응용프로그램 구현 및 최적화
성능 평가를 위한 항목 및 benchmarking set 설계
Benchmarking set 을 이용한 성능 실험을 통해 적합한 응용 유형 정리
1 차년도 목표
PC 상에서의 OpenCL 기반 응용프로그램 구현 및 최적화 Registration Volume Rendering CT Reconstruction
비교 실험 및 평가 항목 설정
진행 사항
PC 상에서의 OpenCL 기반 응용프로그램 구현 및 최적화 Registration : CPU/GPU 프로그램 구현 완료
Volume Rendering : 세가지 속도 개선 기법이 포함된 CPU/GPU 프로그램 구현 완료
CT Reconstruction : Voxel-driven backprojection 기반 CPU/GPU 프로그램 구현 완료
Registration
한 영상 (reference image) 과 다른 영상 (floating image) 의 위치 대응 관계를 나타내는 변환을 찾는 작업
Referenceimage
Floatingimage
Apply transformparameters
Compute similarity measureUpdate
parameters
Registered image
Con-verge?
Yes
NoPer-pixel opera-tion
Parallelization!!
Registration
Rigid registration 의 병렬화 각 core group 에 transformation pa-
rameter(translation, rotation) 할당
할당된 parameter 로 floating image를 이동시킨 후 , reference image 와 similarity measure 수행
가장 similarity measure 가 높은 pa-rameter 를 결과로 선택
Parameter #1 Parameter #2 Parameter #n
Registration
Data
CPU (sec) 3891.22 3436.51
GPU (sec) 29.83 26.68
Speedup 130.46 128.82
CPU: Intel i7-2600 (4 [email protected]) / GPU: NVIDIA GTX680 2.0GB (1536 stream [email protected])
Registration 수행시간 및 speedup
Volume Rendering
3D volume data 2D rendered image
Ray casting 기반 volume rendering 결과 영상의 각 픽셀마다 하나의 ray 가 진행하면서 연산을 수행 각 ray 의 계산 결과는 서로 독립적 높은 parallelism
Scalability 평가에 적합 (core 수 증가에 따른 성능 향상 평가 )
Volume Rendering
Parallelism 에 영향을 주는 요소 Thread diversion : threads follow different control flows Global/shared memory access Loop (instruction mix) : loop-unrolling enhances performance
Volume rendering 속도 개선 기법은 thread diversion 을 일으켜 parallel-ism 에
영향을 줌 기법 1 - transparent voxel skipping 기법 2 – early ray termination 기법 3 – empty space leaping
Current GPU architecture
Global / Constant Memory Data Cache (128KB)
Compute Device
Global Memory (2GB)
Compute Device Memory
…
Private Memory
Work-Item 1
Private Memory
Work-Item M…
…
Local Memory (48KB)
Compute Unit N
Private Memory
Work-Item 1
Private Memory
Work-Item M…
…
Local Memory (48KB)
Compute Unit 1
기법 2기법 1 기법 3
NVIDIA GTX680 2.0GB (1536 stream [email protected])
Volume Rendering
Data
Engine block (512x512x512, 16bit)Rendered image: 600x600
Metal plate (512x512x206, 16bit)
Rendered image: 600x600
Abdomen (512x512x86, 16bit)Rendered image: 600x600
CPU (sec)
GPU (sec)
Speedup CPU (sec)
GPU (sec)
Speedup CPU(sec)
GPU(sec)
Speedup
Basic VR 617.31 3.07 201.08618.2
43.05 202.70 241.22 1.19 202.71
With 기법 1 151.16 0.82 184.34150.3
10.87 172.77 67.99 0.39 174.33
With 기법 2 296.54 1.78 166.60331.8
82.07 160.33 134.53 0.8 168.16
With 기법 3 136.66 0.73 187.21141.8
50.82 172.99 45.58 0.25 182.32
With 기법 1 & 2 & 3 17.88 0.22 81.15 24.42 0.18 135.67 8.78 0.08 109.75기법 1 - transparent voxel skipping / 기법 2 – early ray termination / 기법 3 – empty space leaping
CPU: Intel i7-2600 (4 [email protected]) / GPU: NVIDIA GTX680 2.0GB (1536 stream [email protected])
Volume rendering 속도 개선 기법 사용에 따른 speedup 비교 Performance elements
1. Number of cores
2. Global memory size
Core 1Core 2
…
Core X
Input dataGlobal / Constant Memory Data Cache (128KB)
Compute Device
Global Memory (2GB)
Compute Device Memory
…
Private Memory
Work-Item 1
Private Memory
Work-Item M…
…
Local Memory (48KB)
Compute Unit N
Private Memory
Work-Item 1
Private Memory
Work-Item M…
…
Local Memory (48KB)
Compute Unit 1
SDD: Source-to-Detector DistanceSOD: Source-to-Object Distance
Projection image setacquired by CT scanning
Volumetric data
CT Reconstruction
using CT scan configuration(SDD, SOD, angle, etc.)
[Cone beam]
CT Reconstruction
Projection image set volumetric data CT scan configuration( 거리 , 각도 , detector 해상도 등 ) 이용
Filtered backprojection
Backprojection
Fil-ter
Backprojection
Filtered backprojection 을 이용한 CT reconstruction: Apply filter to 1D projection before backprojection
CT Reconstruction
Object
Reconstruction
Projections
Row-wise filteredprojections
Weightedprojections
Dataacquisition
Datavisualization
Cone-beamprojection
Cone-beambackprojection
Parallelization!!
Approximation
CT Reconstruction
Cone beam CT 의 filtered backprojection : FDK (Feldkamp-Davis-Kress) algorithm
Volume
Voxel
Projectionimage
Sampling
Voxel-driven backprojection
Volume
Projectionimage
Sampling
Write conflict
Ray-driven backprojection
CT Reconstruction
병렬화 방법Voxel-driven backprojection vs. ray-driven backprojection parallelism 과 CT reconstruction 결과 다름
Output volume data size 320x320x176 480x480x264
CPU (single thread) 2944.76 8805.96
OpenCL (GPU) 18.55 52.40
Speedup 158.75 168.05
CT Reconstruction
Projection image: 512x384x680
Input
volume data
Output
CPU: Intel i7-2600 (4 [email protected]) / GPU: NVIDIA GTX680 2.0GB (1536 stream [email protected])
Voxel-driven backprojection 수행시간 및 speedup
Volume
Voxel
SamplingCT Reconstruction
Voxel-driven backprojection
각 voxel 의 계산 결과는 서로 독립적이므로 높은 parallelism Scalability 평가에 적합 (core 수 증가에 따른 성능 향성 평가 )
Projection image 가 들어갈 정도의 cache memory 확보되는 경우 속도 향상 I/O throughput 평가에 적합 (cache 구조 및 크기에 따른 성능 향상 평가 )
Global / Constant Memory Data Cache
Compute Device
Global Memory
Compute Device Memory
…
Private Memory
Work-Item 1
Private Memory
Work-Item M…
…
Local Memory
Compute Unit N
Private Memory
Work-Item 1
Private Memory
Work-Item M…
…
Local Memory
Compute Unit 1
Volume data
Projection images
CT Reconstruction
Ray-driven backprojection voxel-driven 방법에 비해 기하학적 정보를 이용하여 정확한 계산 가능 인접한 ray 들이 하나의 voxel 에 대해 동시에 업데이트 시도
◆ Write conflict
병렬화하기 어려움
구현 이슈 Write conflict 를 피하기 위해 OpenCL 의 atomic_add(float) 사용 필요 OpenCL 2.0 에서 지원 , 그러나 현재 지원하는 H/W 없음 atomic_add(int) 를 이용한 fixed-point 연산으로 대체 가능하지만 정확도 감소
Volume
Sampling
Write conflict
H/W 지원이 필요한 Common Operation
현재의 응용 프로그램 기반 GPU 에 있는 operation 중 지원이 필요한 common operation
GPU 에 없는 operation 중 지원이 되면 좋은 common operation
Priority OperationApplica-
tions
1
Trilinear interpolation(Bilinear interpolation 으로 대체 가능 )
2Vector operations(e.g. vector normalization, length of vector, dot product)
3Matrix operation(e.g. 좌표 변환 )
4Mathematical functions(e.g. sin, cos, log, pow, saturate)
Priority OperationApplica-
tions
1
GradientCentral difference: 연산은 간단하나 ,
3D 데이터의 경우 6 번의 sampling
필요
향후 개발하는 응용프로그램에 따라 항목 추가
Volume Rendering
Registration
CT Reconstruction
향후 일정
PC 상에서 OpenCL 기반 응용프로그램 구현 및 코드 최적화 CT Reconstruction : Ray-driven backprojection 기반 CPU/GPU 프로그램 구현
지속적 비교 실험 및 평가 항목 설정
![[SW 아키텍처 컨퍼런스] 클라우드 아키텍처 개론](https://img.pdfslide.tips/doc/110x75/5469d9d7af7959cb768b63e6/sw-5469d9d7af7959cb768b63e6.jpg)
![[Td 2015]너에게만 나는 반응해 반응형 응용프로그램(이규원)](https://img.pdfslide.tips/doc/110x75/5878c3ce1a28ab26728b5943/td-2015--58bb9d81e0964.jpg)
