MPI標准及其实现.docVIP

MPI标准及其实现*? 张伟强1+ 1(南京大学 软件学院,江苏 南京 210093) MPI Standard and its Implementation* ZHANG Wei-Qiang1+ 1(Software Institute, Nanjing University, Nanjing 210093, China) + Corresponding author: Phn +86 Fax +86-25 E-mail: zwqnju@, /zwqnju Received 2012-11-06; Accepted 2012-11-11 Zhang Weiqiang. MPI Standard and its Implementation. Software Institute, Distributed Computing System 02/tss/en/c0736/assignment/index.html Abstract: Message passing model has already been the most important programming paradiam of writing parallel programs. In order to provide portability and ease of use for this kind of program, Message Passing Interface, namely MPI, occurred. As a well-defined standard of message passing programming library, MPI is widely recognized, and many versions of its implementation and extension have appeared. So MPI has become the de-facto standard. This paper describes the content of MPI standard, including MPI-1 and MPI-2, and summaries versions of its implementation and extension. Key words: MPI standard, message passing library, distributed memory computers, parallel programming, high performance, heterogeneity, fault tolerance 摘 要: 消息传递模型早已成为编写并行程序的最重要的编程范式。为了给这种类型的程序提供良好的可移植性以及编写的便利，消息传递接口，即MPI产生。MPI作为良好定义的消息传递编程库的标准，得到广泛认可，出现了各种实现版本以及扩展，从而成为事实上的标准。本文描述了MPI标准的内容，包括MPI-1和MPI-2，并对MPI的各个实现和扩展版本进行总结。 关键词: MPI标准;消息传递;分布式存储计算机;并行编程;高性能;异构性;容错 中图法分类号: TP301　　　文献标识码: A 在并行计算领域，消息传递的编程模型已成为最主要的编程方法。为了支持消息传递的并行程序设计，MPI产生并成为事实上的标准。在MPI的发展过程中，先后经历了MPI-0、MPI-1、MPI-2的版本更迭。MPI-1是其中最主要的标准，本文将对其展开具体描述。MPI-2增加了一些扩展特性，本文也将有所涉及。对于MPI的实现，有很多人都提供了各自的版本。另外为了满足各方面的需求，如高性能、异构性、容错性等问题，对MPI的改进实现版本也十分丰富多样。本文也将对MPI的实现和扩展版本加以总结。 引言 并行计算系统 并行计算 并行计算[26]是指在同一时间内执行多条指令或处理多个数据。这一概念的出现，使计算机的能力得到更充分的利用，带来三方面好处： 1）加快速度，在更短的时间里解决更多更复杂的问题； 2）节省投入，以较低的投入完成计算任务； 3）由于物理设备存在约束极限，只有通过并行才可以不断提速。 并行机的分类 按照同时执行的指令和处理数据的多少，并行机可分2类： 1）SIMD（单指令多数据的并行计算机）； 2）MIMD（多指令多数据的并行计算机）。 在比指令更大粒度上，还可以按照同时执行程序的多少来划分： 1）SPMD（单程序多数据的并行计算机） 2）MPMD（多程序多数据的并行计算机）。 并行机的存储方式 并行计算机在物理上的存储方式主要有3种： 1）共享内存的并行计