体系结构第5章 节 第5讲.pptVIP

国家精品课程：计算机体系结构;(1) 强制性失效(Compulsory miss) 当第一次访问一个块时，该块不在Cache中，需 从下一级存储器中调入Cache，这就是强制性失效 (冷启动失效，首次访问失效) (2) 容量失效(Capacity miss )  如果程序执行时所需的块不能全部调入Cache中， 则当某些块被替换后，若又重新被访问，就会发生 失效。这种失效称为容量失效。 ; ; 强制性失效：增加块大小，预取 (本身很少) 容量失效：增加容量 (防止出现抖动现象) 冲突失效：提高相联度 (理想情况：全相联);5.3 降低Cache失效率的方法;一组利用硬件预取后整体性能得到较大提高的SPEC2000程序的性能增益 （前2个为定点程序，其余为10个浮点程序）。 ;预取的类型 寄存器预取：把数据取到寄存器中 Cache预取： 只将数据取到Cache中 故障性预取：预取时，若出现虚地址故障或违反访问权限，就会发生异常。 非故障性预取：预取时，若出现虚地址故障或违反访问权限，并不会导致异常，只是转变为“不预取”。;2. 在预取数据的同时，处理器应能继续执行 只有这样，预取才有意义。 非阻塞Cache (非锁定Cache);例5.7 对于下面的程序，判断哪些访问可能会导致数据Cache失效。然后，加入预取指令以减少失效。最后，计算所执行的预取指令的条数以及通过预取避免的失效次数。假定： (1) 我们用的是一个容量为8KB、块大小为16B的直接 映象Cache，它采用写回法并且按写分配。 (2) a、b分别为3×100(3行100列)和101×3的双精度浮 点数组，每个元素都是8个字节。当程序开始执行 时，这些数据都不在Cache内。;for (i＝0 ; i 3 ; i＝i＋1 ) for (j＝0 ; j 100 ; j＝j＋1 ) a[i][j]＝b[j][0]×b[j＋1][0];;for (j＝0，j＜100；j＝j＋1) { prefetch (b[j＋7][0]);  /* 预取7次循环后所需的b(j,0) */ prefetch (a[0][j＋7]);  /* 预取7次循环后所需的a(0,j) */ a[0][j]＝b[j ][0] * b [j＋1][0] } for (i＝1; i 3; i＝i＋1) { for (j＝0; j 100; j＝j＋1) prefetch(a[i][j＋7]); /* 预取7次循环??所需的a(i,j) */ a[i][j]＝b[j][0] * b[j＋1][0]; };例5.8 在以下条件下，计算例5.7中所节约的时间： (1) 假设预取可以被重叠或与Cache失效重叠执 行，从而能以最大的存储带宽传送数据。 (2) 不考虑Cache失效时，修改前的循环每7个时钟周 期循环一次。修改后的程序中，第一个预取循环 每9个时钟周期循环一次，而第二个预取循环每8 个时钟周期循环一次(包括外层for循环的开销)。 (3) 一次失效需100个时钟周期。;解： 修改前： 循环时间＝300×7 ＝2100 失效开销＝251×100＝25100 2100＋25100＝27200;2KB Cache: 降低50％ 8KB Cache：降低75%; (1) 数组合并 举例： /* 修改前 */ int val [SIZE]; int key [SIZE];;(2) 内外循环交换 举例： /* 修改前 */ for (j＝0 ;j100 ;j＝j＋1) for (i＝0 ;i5000 ;i＝i＋1) x[i][j]＝2*x[i][j];;(3) 循环融合 举例： /* 修改前 */ for (i＝0 ; iN ;i＝i＋1)