蔺广逢《游戏设计概论》CUDA.pptVIP

CUDA Compute Unified Device Architecture 主要框架 GPU简介 用于个人计算机、工作站和游戏机的专用图像显示设备 显示卡或主板集成 nVidia和ATI (now AMD)是主要制造商 GPU简介 GPU诞生背景：超高计算能力要求 1.CPU处理能力不断强大，但在进入3D时代后，人们发现庞大的3D图像处理数据计算使得CPU越来越不堪重荷，并且远远超出其计算能力； 2.图形计算需求日益增多，作为计算机的显示芯片也飞速发展。图形，图像计算等计算的功能被脱离出来，单独设计为一块芯片——GPU （也就是显卡）。 GPU的变革：G80的诞生 1.流处理器的出现：图像渲染；强大的运算能力； 2.CPU：串行的计算方式向并行计算发展，比如目前主流的双核、四核CPU； 3.GPU：核心的一个流处理器相当于一个“核”，GPU的“核”数量已经不再停留在单位数，而是几十甚至是上百个。 GPU与CPU的比较 GPU的强大浮点运算能力 传统GPU架构 GPU到CUDA CUDA概论—简介 CUDA – Compute Unified Device Architecture（统一计算设备架构） 特点：专门针对GPU的开发工具。 需要Nvidia公司的GeForce80以上系列、Tesla系列和Quadro系列等硬件的支持。 性能：程序效率能够得到大大提升。 与采用图形API接口指挥GPU完成运算不同，CUDA可以自由地输入代码调用GPU的并行处理架构。 优势：可以使用类C语言进行通用计算。? CUDA的GPU编程语言基于标准的C语言，任何有C语言基础的用户都很容易地开发CUDA的应用程序。 CUDA – 异构并行 CUDA Devices and Threads 计算设备（device） CPU or host的协处理器（coprocessor） 拥有独自的DRAM (device memory) 可以并行的运行很多Threads 一般来说是GPU，也可以是其他并行处理器 一个应用程序的数据并行部分能够用许多设备内核（device kernel）线程表示 GPU线程和CPU线程不同点 GPU线程是轻量级线程 很少的创建开销(overhead) GPU要完全利用至少需要1000个线程 多核CPU则不需要 并行线程组织结构 Thread: 并行的基本单位 Thread block: 互相合作的线程组 Cooperative Thread Array (CTA) 允许彼此同步 通过快速共享内存交换数据 以1维、2维或3维组织 最多包含512个线程? Grid: 一组thread block 以1维、2维或3维组织 共享全局内存 Kernel: 在GPU上执行的核心程序 One kernel ? One grid CUDA—内存空间 Each thread can: Read/write per-thread registers Read/write per-thread local memory Read/write per-block shared memory Read/write per-grid global memory Read/only per-grid constant memory CUDA处理器术语 SPA Streaming Processor Array (流处理器阵列， 8 in G80) TPC Thread Processing Cluster (线程处理集群，2 SM + Texture, in G80，3SM+Texture,in GTX200) SM Streaming Multiprocessor (流多处理器，8 SP’s) Multi-threaded processor core(多线程处理器核) Basic processing unit for CUDA thread block(CUDA线程块的基本处理单元) SP Streaming Processor(流处理器) Scalar processor for a single CUDA thread(CUDA单一线程的标量处理器) G80—Graphic Model G80—CUDA Model GTX200—Graphic Model GTX200—CUDA Model G80:Executing Thread Blocks 线程以线程块为单位分配到SM中去 每个SM中最多8个Block G80中每个SM最多768个线程 官方推荐每个Block中不少于64个线程 Block中线程数不大于512 64*8,96*8,128*6,192*4,256*3,384*1,512*1