NVIDIAGPU上Linpack性能测试初探.docx

NVIDIAGPU

上的

Linpack

性能测试初探


测试简介
Linpack

性
NVIDIAGPU

上的

Linpack

性能测试初探


测试简介
Linpack

性能测试是高性能计算机的标准测试之一，

其测试性能是全球

Top500超级计算
机排行榜的排名依据[1]。Top500每年宣布两次排行榜，在2010年6月的榜单中，由曙光企业研制的星云超级计算机取得了第2名的好成绩，其采取了通用CPU(IntelXeon5650)和异构加快零件(NVIDIATeslaC2050)的混淆架构。在本次榜单中，以GPU作为加快零件的超级计算机还有国防科大研制的天河1号(第7名)和中科院过程所研制的IPEMole-(第19名)等。
简单来说，

Linpack

测试是用高斯消元法求解浓密线性方程组

(64位的双精度浮点数

)。
CPU上，有标准的参照实现HPL软件包[2]，其实现了二维块卷帘的数据散布，部分选主元的LU分解，递归的Panel分解，look-ahead技术，多种广播算法等多种算法和优化。在
进行Linpack测试时，可选用不同的HPL参数组合(比方：矩阵规模N，分块大小nb等)，
不同的BLAS与MPI库，不同的编译参数等进行调优，以获得较好的Linpack性能。


软件包在

NVIDIAGPU上移植和优化
由于

HPL软件包实现了较多的功能和优化，所以在

NVIDIAGPU上的

Linpack

测试也以
此为基础，进行移植和优化。本文介绍的HPL软件包的移植与实现方式，主要参照了Fatica[3]的利用NVIDIAGPU加快Linpack的工作。
发现

文件[4]中关于HPL软件包在Linpack
dgemm函数的履行时间占到了大多数

测试时各个函数的运行时间进行了统计和剖析，
(约90%左右)，其次是dtrsm函数。所以，我们的
基本思想是关注利用

GPU加快

dgemm与

dtrsm

函数。同时，此种方式也使代码的变动量较小。
详细如下：
CPU与

GPU混淆的

dgemm实现
CPU与GPU混淆的dgemm实现，就是将矩阵乘法中的一部分放到GPU上进行，调用NVIDIA
CUBLAS中的dgemm函数;同时，另一部分调用CPU上BLAS库中的dgemm函数，比方IntelMKL，
AMDACML，GotoBLAS等。使得CPU与CPU能够同时进行计算。
矩阵的区分如图1所示，分红了图1中左(竖切B)和右(横切A)两种情况。原因是在HPL