可扩展的范围和设计课件.pptVIP

*例題，開發Internet和IBMSP2中所體現的獨立精神Internet的成功是表現獨立原理優點的完美例子。Internet獨立於主機、互連硬體和應用軟體。由不同供應商提供的，從PC機到超級電腦的不同類型主機相互連接起來。互連硬體可以是以太網、FDDI等。用戶能用不同軟體流覽Web萬維網。*IBMSP2設計結合了獨立原理所設計的結點體系結構允許使用不同的通信體系結構(例如以太網或HPS)。通信協議獨立於通信硬體：如以太網或HPS，都允許使用標準IP協議或IBM專用用戶空間協議。*例題：MPI及超立方體電腦消息傳遞介面(MPl)是使用少量獨立(正交)語言特徵的佳例。MPI基於4個相互正交的主要概念：數據類型通信操作通信子虛擬拓撲4者的任何組合均是有效的。*完全的獨立起到了事半功倍效果：少數簡單概念，組合在一起時能提供許多功能。為較早期的超立方體電腦而開發的許多並行演算法顯式地使用超立方體的互連拓撲，但在網路連接系統中，它們並不適用。吸取這一教訓，現在的MPP使用獨立於互連拓撲的通信演算法。IBMSP系統中的集合通信庫便是一個很好的例子。*兩種公共技術用來實現獨立原理：將體系結構和實現分開使用標準組件。*（1）體系結構和實現的分開體系結構是電腦系統系列或系統組件的公共行為或功能性精確模型(或說明)。而實現是對模型的具體實施。用戶和設計者均可使用體系結構模型。一個體系結構可有許多不同實現，它們會有不同性能，但實現相同功能。*體系結構的改進是開放體系結構(或開放系統)：體系結構的擁有者(通常是供應商)允許用戶或第3方瞭解體系結構；用戶可自己製造與體系結構相容的組件，甚至修改或重新加以設計；IBMPC機證實了這的確是一個技術上有影響的、商業上可行的。*（2）使用標準組件有兩種標準類型：第一種是工業標準(也稱為事實標準)，它通常為某公司所宣導，然後被最終用戶廣泛使用並為工業界的大多數所接受。第二種標準類型是由國家或國際標準機構所設立的，如國際標準組織(ISO)，美國國家標準機構(ANSl)以及IEEE標準委員會。*在使用獨立原理時應注意：並行電腦中通常有某種關鍵組件和技術是先進的，但往往還不是標準。不可能靠簡單地單純擴展一個或少數幾個組件建成一個有效的系統。必須在所有子系統間設計之間達到一個平衡系統。*2.平衡設計原理應努力最小化任何性能瓶頸。應避免不平衡系統的設計，在這種系統中，一個慢速的部件將降低整個系統性能，即使其他部件都是快速的也無濟於事。應避免單點失效，即一個部件失效將使整個系統崩潰。*（1）Amdahl定律:假定一個應用程式可分為兩類計算結構：X部分和Y部分。兩部分各自所占的總執行時間分別為：X％和Y％：*如果對X％作了某種改進後能以原來n倍速度運行，則加速比S定義如下：*此方程被稱為Amdahl定律，含義：應優化較大部分X，加速普通部分。最好加速比的上限值為1／Y。慢速部分Y稱為瓶頸，應使Y盡可能小。*Amdahl法則：處理速度應與記憶體容量和I／O速度相平衡。實現：粗略地估計每秒一百萬指令(MIPS)的計算速度，應與1MB記憶體容量和1Mb／s的I／O速率相平衡。Amdahl法則在近來的系統中逐漸適用*例：PetaFLOPS科研專案來自PetaFLOPS科研專案的近期預測表明，在科學／工程模擬求解很寬的問題範圍內，

對記憶體需求(以GB計)和速度要求(以Gflop／s計)有如下關係：記憶體----速度3/4這樣30TB容量的記憶體對一個Pflop／s機器是適合的。這裏的：1Pflop／s=1,000,000Gflop／s。*例I／O和檢查點問題為了解I／O速度需求，應考慮檢查點問題：該系統需要週期地轉存記憶體內容到磁片，萬一系統崩潰時，用戶能從最近檢查點重新開始他們的工作，而不必重頭開始。*假設要求轉存在90秒內完成，那麼對1MB記憶體來講，我們需要的磁片帶寬為1／90（Mb／s）=0．01Mb／s，不接近Amdahl法則。對於更大系統，則檢查點時間就會更長。假設轉存時間為900秒，那麼對於有1GB記憶體的機器，需要的磁片帶寬為1000／900MB／s=1．1MB／s。對於100GB記憶體，對磁片I/O需求就將增至大於100MB／s。*（2）50％法則並行程式性能由於負載不平衡、並行化開銷、通信啟動開銷以及每位元組通信開銷，會發生衰減。50％法則是，4個開銷因素的每一個使性能衰減都不大於50％的話，那麼就認為此並行系統是平衡的。使用這一規則，就能估計對種種開銷因素的期望界限值。*下表列出了在