集群环境下的并行编程模型和开发工具.docVIP

集群环境下的并行编程模型和开发工具 1、引言 近年来，随着高性能微处理器、高速网络、高性能分布计算的标准工具三种技术的飞速发展以及各种计算机部件的商品化，集群系统成为价格合理的并行计算工具。在需要提供高度可靠的服务以及强大的计算能力的环境下，以廉价而又容易获取的硬件和免费或常用软件构成的集群系统发挥着越来越明显的优势。 为了有效地开发并行计算机尤其是集群的计算能力，好的编程模型、执行环境以及开发工具是必不可少的条件。在过去的二十多年里，各种不同的并行编程环境得到了很大的发展，同时得到发展的还有很多相应的编程辅助工具，包括并行调试器和各种跟踪监测工具。许多这样的环境作为标准出现，这些标准反过来又促进了可移植并行环境模型的发展。 2、并行编程模型的研究现状 并行程序设计模型是硬件和软件之间的桥梁，是并行计算的低层实现与高层抽象的界面。它是面向程序员的语言抽象，由于这些抽象是程序员角度的并行计算，所以它会严重地影响程序员解决问题的方法。基于不同的目的、面向的不同的问题、不同的假设及不同的抽象层次，目前研究人员已经开发出了几十种不同抽象的并行程序设计模型，如函数模型、面向对象的模型、数据并行模型、消息传递模型及共享存储模型等。 虽然存在着如此多的并行程序设计模型，但并不是每一种模型都适合集群计算。这是因为在集群环境下的并行应用程序的开发是一个很复杂的任务，开发人员必须面对一系列复杂的问题，这些问题涉及到不确定性、通信、同步、数据划分和分配、负载平衡、容错、异构、共享或者分布存储、死锁以及竞争条件。这些对软件开发人员提出了新的重大挑战。 目前在集群环境下应用最多的是消息传递模型。在消息传递模型中，各个并行执行的部分之间通过传递消息来交换信息、协调步伐、控制执行。消息传递一般是面向分布式内存的，但是它也可适用于共享内存的并行机。消息传递为编程者提供了更灵活的控制手段和表达并行的方法，灵活性和控制手段的多样化是消息传递并行程序能提供高的执行效率的重要原因。消息传递模型一方面为编程者提供了灵活性，另一方面它也将各个并行执行部分之间复杂的信息交换和协调控制的任务交给了编程者，这在一定程度上增加了编程者的负担，这也是消息传递编程模型编程级别低的主要原因。 在当前所有的消息传递软件中,最重要、最流行的是并行虚拟机PVM(parallel virtual machine)[1]和消息传递接口MPI(message passing interface)[2][3]。PVM是第一个被广泛接受的消息传递环境。它提供了跨越异构平台的可移植性和互操作性，允许多个异构计算机通过网络连接在一起作为一个称作并行虚拟机的单一计算资源来使用。其最大的优点是灵活性，包括异构平台上的可移植性、交互性和容错功能。MPI是一个显示的消息传递模式，在其中，任务通过发送消息进行相互通信。其最大的优点是高性能，点到点通信函数模型、可操作数据类型都比PVM丰富，群组通信的函数库也更大，但是不如PVM灵活。MPI和PVM都提供了一套函数集，且各有所专。它们能运行在所有的并行平台上，包括PVP、SMP、MPP(massively parallel processor)、工作站和PC组成的集群系统，并已经在Windows平台上实现，提供了对C、Fortran和Java语言的绑定。有关PVM和MPI的更多详细信息请参考[4][5][6][7]。 3、执行环境和开发工具 集群环境搭建后，你怎样使用它？你怎样编写程序以利用它的优点？有什么样的开发库和编程工具来帮助你编写运行在集群上的并行程序代码？以下将介绍几种近几年来集群上广泛使用的PVM和MPI环境下的开发工具。 3.1 PVM环境下的开发工具 3.1.1 PVM++ PVM环境下的C++库[8]。它是由卡尔斯鲁厄大学（University of Karlsruhe）的计算机设计和故障容错研究所（Institute of Computer Design and Fault Tolerance）开发的一个软件库。它为编写应用广泛的并行程序库PVM提供了一种简单的方法，能够工作在同构和异构的环境下。 PVM++的主要特点： 在异构网络中易于发送和接收消息 完全的STL（standard template library标准模板库）集成 在所有的UNIX平台上使用配置脚本易于安装 易于获取所有的任务和主机信息 支持消息处理 信息能够在一到来时即自动被打开 1998年1月发布了第一个版本PVM++ 0.4，此后相继发布了许多新的版本，每个后继版本在功能上都有所改进。目前可以从PVM++的网页[8]上下载必威体育精装版版本PVM++ 0.6.0。PVM++在Unix和Linux的平台上已经得到了广泛的应用，但目前是否能在Windows NT这样的Wind