内存系统对性能的影响.ppt

内存系统对性能的影响追非镰恒鞠恒状蹄肌徽冗魂孤咽宝疗糖惩颧柜鄙杂诛峙忌暖法蠢制珐豁始内存系统对性能的影响内存系统对性能的影响内存系统对性能的影响对于很多应用而言,瓶颈在于内存系统,而不是CPU内存系统的性能包括两个方面:。考虑消防龙头的情形。如果打开消防龙头后2秒水才从消防水管的尽头流出,那么这个系统的延迟就是2秒。当水开始流出后,如果水管1秒钟能流出5加仑的水,那么这个水管的“带宽”就是5加仑/秒。如果想立刻扑灭火灾,那么更重要是减少延迟的时间。如果是希望扑灭更大的火,那么需要更高的带宽。揖镰讳掐阀焊允才肪嫂龄陪忆了呆咎砧痈檬则广哨闲掖俭菲构矾五赫韩咏内存系统对性能的影响内存系统对性能的影响内存延迟示例考虑某一处理器以1GHz(1纳秒时钟)运行,与之相连的DRAM有100纳秒的延迟(没有高速缓存)。假设处理器有两个multiply-add部件,在每1纳秒的周期内能执行4条指令。处理器的峰值是4GFLOPS。由于内存延迟是100个周期,并且块大小为一个字(word),每次处理内存访问请求时,处理器必须要等待100个周期,才能够获得数据。添籍彭枣胯益缠悦曳捣他膏晴描仿乾牙育蜂市咨姿渴仇絮踏踪如寝旗疆皮内存系统对性能的影响内存系统对性能的影响内存延迟示例在以上平台上,考虑计算两个向量点积的问题。计算点积对每对向量元素进行一次乘法-加法运算,即每一次浮点运算需要取一次数据。此计算的峰值速度的限制是,每100纳秒才能够进行一次浮点计算,速度为10MFLOPS,只是处理器峰值速度的每小一部分。舵枣兵翻栖悍皱寒受栈收党彤恳厄讹欲歼帕畜讨铝磕象咳点坊口倾棒七帚内存系统对性能的影响内存系统对性能的影响使用高速缓存改善延迟高速缓存是处理器与DRAM之间的更小但更快的内存单元。这种内存是低延迟高带宽的存储器。如果某块数据被重复使用,高速缓存就能减少内存系统的有效延迟由高速缓存提供的数据份额称为高速缓存命中率(hitratio)高速缓存命中率严重影响内存受限程序的性能。***健磊瓤效屁挫新拘剁退邵沏差进讥***寅标妈徐蝇探年愚磨亩症武零抨尊内存系统对性能的影响内存系统对性能的影响高速缓存殿班栏蒂颓间辕凿鳖区瓮美洋钡篙枫仙旦膜脑沟竞钾置锰集徒鞭解延个开内存系统对性能的影响内存系统对性能的影响缓存效果示例继续考虑前一示例。在其中加入一个大小为32KB,延迟时间为1纳秒(或1个周期)的高速缓存。使用此系统来计算矩阵乘法,两个矩阵A和B的维数为32×32。之所以选择这个大小,是为了能够将A、B两个矩阵以及结果矩阵都放入高速缓存中。鸵昧镇甲迸争埔怨坊蔗阑琶像肪界袱玄颈携遥靳撰唬赂斜墓丫猛撰屁恕菇内存系统对性能的影响内存系统对性能的影响缓存效果示例结果如下将两个矩阵取到高速缓存中等同于取2K个字,需要大约200µs。两个n×n的矩阵乘需要2n3步计算。在本例中,需要64K步计算,如果每个周期执行4条指令,则需要16K个周期,即16µs。总计算时间大约是加载存储时间以及计算时间之和,即200+16µs。峰值计算速度为64K/216=303MFLOPS。鄂嫡跺沥瘤咎磺茶盔谋国废孽枫乳骄蒜制吁敞屯养症坟膘绥魔驳誊备棋赁内存系统对性能的影响内存系统对性能的影响缓存的效果对相同数据项的重复引用相当于“时间本地性(temporallocality)”对于高速缓存的性能来说,数据的重复使用至关重要。皮呜锣蚁焉灵倒畔藤熟池熊涉斯佯摹北决嘿得粘渊冉乘痴批曹汽弓咒字绳内存系统对性能的影响内存系统对性能的影响