GPU并行计算与CUDA编程视频教程

天亮说晚安

课程介绍：
近年来，随着深度学习的高速发展，大数据技术的普及，接下来紧接的会普及发展的想必就是硬件层面的配合，而GPU无疑是最重要的趋势。过去几年，计算领域我们目睹了英伟达（NVIDIA）公司带来的变革。计算统一设备架构（Compute Unified Device Architecture, CUDA）编程语言的引入，第一次使这些非常强大的图形处理器为程序员日常所用，以应对日益复杂的计算工作。从嵌入式设备行业到家庭用户，再到超级计算机，所有的一切都因此而改变。
计算机软件界较大的变迁是从串行编程转向了并行编程。其中，CUDA起到了重要的作用。究其本质，图形处理单元（Graphics Processor Unit，GPU）是为高速图形处理而设计的，它具有天然的并行性。CUDA采用了一种简单的数据并行模型，再结合编程模型，从而无需操纵复杂的图形基元。
我们也可以轻而易举的发现各种各样的开源计算机库，例如OpenCV,Caffe,TensorFlow等等，都提供了对应于GPU的使用接口，使得GPU的使用越来越主流而高效。& K$ z) H& I5 [, q. l
6 a" K3 h/ [2 G4 _, E2 w3 D$ ]9 X本课程主要分为四部分，分别涵盖了硬件搭载知识、CUDA编程基础、CUDA性能优化与设计、实战项目经验。
6 S+ e, e  d: Q$ \! t
4 Q) E# T) d% g+ @/ e4 x授课对象：
+ C9 M! n' X6 }2 |3 X对并行计算，GPU编程刚兴趣的同学，熟悉C/C++编程语言。
* j) i& }1 _& r' x, \需要有带NVIDIA显卡的计算机，如果没有的同学可能需要额外购买AWS的GPU服务器，费用约是0.4美元/小时。
2 d# J1 u" ~( @
; i$ t' ?5 e! m$ v* Z& M课程环境：
7 Q% [4 ?: b4 i9 P8 q8 M硬件环境：AWS G2 Instances(NVIDIA GRID K520) / CG1 Instances(NVIDIA Tesla M2050) /自备带NVIDIA GPU的电脑;
4 r5 ~1 y& n2 i3 D0 [5 `6 f/ w操作系统：Linux 64bit
编程语言：C/C++
) F, V2 K+ l9 _/ t& ^& \使用软件：CUDA7.5  
0 M/ V) N* p; U) P/ z' w  t3 T0 h
收获预期：
# D) r. d* [* z. x% H  y具备GPU和CUDA编程能力，可以完成初步的GPU程序设计和优化设计，对于实际应用中CUDA的使用能有全面的考虑和实操能力。
% o$ K6 q1 D0 h0 ^1 y
' p  ~/ z2 t$ M7 x2 G课程目录:
一. GPU与CUDA背景基础介绍
第1课 CUDA硬件环境，体系结构，软件环境介绍，包括平台、架构、开发工具和热点技术
1 D) k. U" ^' U+ y. y2 D第2课 并行编程介绍，CUDA核心概念，包括网格、线程块，不同类型内存的工作机制

二. CUDA编程基础
. F* \6 u* o+ f5 \# B8 N6 `第3课 CUDA设备内存、常量内存、共享内存和纹理内存，CUDA流和事件
第4课 CUDA执行模式、线程调度、内核执行和CUDA存储器的使用
1 [4 q1 \4 @+ i0 }第5课 CUDA流处理器簇、多GPU编程、纹理操作
/ D5 e* O( p  t/ g
  j3 V+ R* m3 _* q三. CUDA性能优化与设计
% Q3 r4 h. L4 [- u7 _9 D5 u第6课 CPU/GPU协同编程，串行/并行程序中提高并行度的常用策略
第7课 流式负载以及使用GPU做应用程序性能优化常用策略
: h- L5 k9 h0 O8 f8 J" d7 X+ X第8课 在集群中使用CUDA

2 K3 j( j6 w' P7 Z; z% L4 ^+ M四. 实战项目经验
" S, p* c! f) s1 N- F, V$ T第9课 应用CUDA做高维数据处理
第10课 CUDA+OpenGL做图形渲染
* A/ M( a4 B) B# Z4 i: F第11课 CPGPU实现视频流实时光流跟踪
第12课 深度学习框架中的GPU应用

7 o+ ?) F% i# L( i