并行计算第一篇.ppt

现代密码学理论与实践之五 并 行 计 算 并行计算（Parallel Computing） 定义：通过网络相互联接的两个以上的处理机相互协调，同时计算同一个任务的不同部分，从而提高问题求解速度，或者求解单机无法求解的大规模问题。 两个目的： 提高速度； 扩大问题求解规模。 国际超级计算会议 1988--至今，每年11月，1个星期，美国，数千人参加，水平最高； 名称：SuperComputing’XY； 网站： ; 主要内容： Technical Papers； HPC Exhibition； HPC Education； Workshops； Prizes：Gordan-Bell, Best Tech., Best Student； 国际超级计算会议 Gordan-Bell奖（$5000）： 最高性能奖：TFLOPS； 最高性能价格比奖：$?/MFLOPS； 具有创新的高性能应用奖； 技术论文： 1988-1995：ACM/IEEE 版权； 1996-2002：自由下载； 60-70篇。 高性能计算的内容 中国高性能计算的机遇与挑战 现状： 中国已具备自行研制高性能计算机系统的能力 系统国产化程度不高 处理器、高速网络等关键部件还主要靠进口 高性能计算软件是最大瓶颈 应用软件的开发的投入力度不够，制约了高性能计算的普及 机遇： 高性能计算机系统开始了新一轮探索，需要创新思想 廉价的机群系统带来了高性能计算机普及和“平民化” 对提高生产率，更有效解决实际应用提出了更高要求 集成电路生产基地向中国转移和国产通用CPU技术的突破 挑战：集中力量研制包括国产CPU、系统互连网络在内的全自主产权的高性能计算机系统，加大对软件的投入 科学发现：万亿次计算需求 科学发现：万亿次计算实例 SC’XY：论文分布 并行程序设计 自动并行技术：尚无实质进展； 并行程序设计平台 消息传递MPI 2.0版； 共享存储OpenMP 1.0版； MPI与OpenMP之混合编程。 并行程序设计：科学计算工具箱 并行计算第一篇 ——结构?算法?编程 并行计算——结构?算法?编程 第一篇 并行计算的基础 第一章 并行计算机系统及其结构模型 第二章 当代并行计算机系统介绍 第三章 并行计算性能评测 第二篇 并行算法的设计 第四章 并行算法的设计基础 第五章 并行算法的一般设计方法 第六章 并行算法的基本设计技术 第七章 并行算法的一般设计过程 并行计算——结构?算法?编程 第三篇 并行数值算法 第八章 基本通信操作 第九章 稠密矩阵运算 第十章 线性方程组的求解 第十一章 快速傅里叶变换 第四篇 并行程序设计 第十二章 并行程序设计基础 第十三章 共享存储系统并行编程 第十四章 分布存储系统并行编程 第十五章 并行程序设计环境与工具 研究方法 并行计算机结构模型 并行向量处理机（PVP） 对称多处理机（SMP） 大规模并行处理机（MPP） 分布共享存储多处理机（DSM） 工作站/PC机群（COW） 并行算法的设计 常用设计策略 基本设计技术 并行程序设计 并行程序设计模型 并行编程工具环境 计算可视化 并行算法的研究 完整的学科体系：理论－设计－实现－应用 并行算法理论 并行算法设计分析 并行算法实现 并行算法应用 研究方法：结构－算法－编程 并行计算机体系结构 并行算法的设计 并行程序设计 并行算法的研究 并行算法研究进展 并行算法研究重点和方向 千禧并行分布式计算十大要闻 并行算法理论 不同PRAM模型的等效性 P, NC, P－完全问题 并行复杂性理论 求下界的一般方法 并行算法研究进展 并行算法的研究重点和方向 并行计算模型 并行算法设计技术 并行复杂性理论 未来的研究方向 千禧并行分布式计算十大要闻 加速和可扩放性、APANET 和 Internet、流水线技术、分治技术、负载平衡、消息传递和报文开关、机群计算、同步技术、多道程序、多线程。 第一章并行计算机系统及结构模型 1.1 并行计算 1.1.1 并行计算与计算科学 1.1.2 当代科学与工程问题的计算需求 1.2 并行计算机系统互连 1.2.1 系统互连 1.2.2 静态互联网络 1.2.3 动态互连网络 1.2.4 标准互联网络 1.3 并行计算机系统结构 1.3.1 并行计算机结构模型 1.3.2 并行计算机访存模型 1.1并行计算 并行计算：并行机上所作的计算，又称高性能计算或超级计算。 计算科学：计算物理、计算化学、计算生物等 科学与工程问题的需求：气象预报、油藏模拟、核武器数值模拟、航天器设计、基因测序等。 需求类型：计算密集、数据密集、网络密集。 美国HPCC计划：重大挑战性课题，3T性能 美国Petaflops研究项目：Pflop/s。 美