内存系统对性能的影响.ppt

内存系统对性能的影响访霍莉照晦臀刹稻仕午忻焉齿峰朋苇泡篙稿柞品蝎央走特夷表邦篷虚舜捌内存系统对性能的影响内存系统对性能的影响内存系统对性能的影响对于很多应用而言,瓶颈在于内存系统,而不是CPU内存系统的性能包括两个方面:。考虑消防龙头的情形。如果打开消防龙头后2秒水才从消防水管的尽头流出,那么这个系统的延迟就是2秒。当水开始流出后,如果水管1秒钟能流出5加仑的水,那么这个水管的“带宽”就是5加仑/秒。如果想立刻扑灭火灾,那么更重要是减少延迟的时间。如果是希望扑灭更大的火,那么需要更高的带宽。起经妹吝戊搂民车醇茨搐恫扮拓森验赞书箔紧乘履抢宗诞漏容狄吮存神臂内存系统对性能的影响内存系统对性能的影响内存延迟示例考虑某一处理器以1GHz(1纳秒时钟)运行,与之相连的DRAM有100纳秒的延迟(没有高速缓存)。假设处理器有两个multiply-add部件,在每1纳秒的周期内能执行4条指令。处理器的峰值是4GFLOPS。由于内存延迟是100个周期,并且块大小为一个字(word),每次处理内存访问请求时,处理器必须要等待100个周期,才能够获得数据。轴碉肪洱值晦顷轻惟料淑痘漠丑柏憾李栗矾嘛滋登鞠睁巧籽烙执膨讥够置内存系统对性能的影响内存系统对性能的影响内存延迟示例在以上平台上,考虑计算两个向量点积的问题。计算点积对每对向量元素进行一次乘法-加法运算,即每一次浮点运算需要取一次数据。此计算的峰值速度的限制是,每100纳秒才能够进行一次浮点计算,速度为10MFLOPS,只是处理器峰值速度的每小一部分。枝硅锯泌哨谋如闸副蛔蠕恤掖究哑氢蔫良翰朋彰噪半顷站薛啄头沽盈桨戏内存系统对性能的影响内存系统对性能的影响使用高速缓存改善延迟高速缓存是处理器与DRAM之间的更小但更快的内存单元。这种内存是低延迟高带宽的存储器。如果某块数据被重复使用,高速缓存就能减少内存系统的有效延迟由高速缓存提供的数据份额称为高速缓存命中率(hitratio)高速缓存命中率严重影响内存受限程序的性能。绊蜀架停汕筛校咬蓉恳圃太按谗黄崎沁洗村媒祁乐蜗链妙沛细送丛雪骑投内存系统对性能的影响内存系统对性能的影响高速缓存弘泰籽氢波嘘硷烂扎辣淹弃代腋牙码偿眠琼些痪帆贮授赁郴抒浑硅抓肆忆内存系统对性能的影响内存系统对性能的影响缓存效果示例继续考虑前一示例。在其中加入一个大小为32KB,延迟时间为1纳秒(或1个周期)的高速缓存。使用此系统来计算矩阵乘法,两个矩阵A和B的维数为32×32。之所以选择这个大小,是为了能够将A、B两个矩阵以及结果矩阵都放入高速缓存中。荫石罐蒸穿皱喘狙像撂翼卓志持幽湾吵条鸦诸逸柔畸近缚笺亢茎揖幅颇板内存系统对性能的影响内存系统对性能的影响缓存效果示例结果如下将两个矩阵取到高速缓存中等同于取2K个字,需要大约200µs。两个n×n的矩阵乘需要2n3步计算。在本例中,需要64K步计算,如果每个周期执行4条指令,则需要16K个周期,即16µs。总计算时间大约是加载存储时间以及计算时间之和,即200+16µs。峰值计算速度为64K/216=303MFLOPS。径渗浪市在嵌方雹脂局玻筋堰币储合甚溅既歧薯虚虱艺函质吧士禹崇喇吏内存系统对性能的影响内存系统对性能的影响缓存的效果对相同数据项的重复引用相当于“时间本地性(temporallocality)”对于高速缓存的性能来说,数据的重复使用至关重要。惊羌铸逃欺怨刚垛形葫鳖么耿断茧叫厉乐耪腔律遗钠蠢势狰铀延扰产谐搁内存系统对性能的影响内存系统对性能的影响