专用数据处理器 (DPU)技术白皮书.pdf

专⽤数据处理器 (DPU)
Technical White Paper of Data Processing Unit
技术⽩⽪书

2021年10月
主编单位
中国科学院计算技术研究所
联合编写发布单位
中科驭数（北京）科技有限公司
计算机体系结构国家重点实验室
中国计算机学会（CCF）集成电路设计专业组
DPU White Paper
INTENTIONALLY LEFT BLANK

All Rights Reserved 2
DPU White Paper
编委会
顾问：孙凝晖、刘明、李晓维、胡伟武、陈云霁
主编：鄢贵海
编委（按姓⽒拼音排序）：崔慧敏、陈岩、陈世敏、樊海爽、孔浩、卢⽂岩、
廖云坤、李明、孙伟、吴婧雅、袁晓飞、赵巍岳、张宇、张宇军
All Rights Reserved 3
DPU White Paper
特别致谢
本白皮书编写过程中还得到了北京市科学技术委员会、中关村科技园区
管理委员会、***物联⽹有限公司、曙光信息产业有限公司、浪潮集团、
龙芯中科、华泰证券、中泰证券、⾦证股份、上交所技术有限公司、英特尔
（中国）有限公司、赛灵思电⼦科技公司、东⽅国信科技股份有限公司、首都
在线、迈普通信技术股份有限公司、360数科等机构和上下游企业的支持与协
助，特此表达衷⼼的感谢！

All Rights Reserved 4
DPU White Paper
版权声明
本白皮书版权属于主编和联合编写发布单位，并受法律保护。转载、摘编或
利用其它⽅式使用本白皮书⽂字或者观点应注明“来源:专用数据处理器（DPU）技术
白皮书，中国科学院计算技术研究所，鄢贵海等”。违反上述声明者，版权⽅将追究
其相关法律责任。
All Rights Reserved 5
DPU White Paper
内容提要
DPU（Data Processing Unit）是新近发展起来的一种专用处理器。2020年
NVIDIA公司发布的DPU产品战略中将其定位为数据中心继CPU和GPU之后的
“第三颗主力芯片”，掀起了一波行业热潮。DPU的出现是异构计算的一个阶
段性标志。与GPU的发展类似，DPU是应用驱动的体系结构设计的又一典型案
例；但与GPU不同的是，DPU面向的应用更加底层，类型也更多样。DPU要解
决的核心问题是基础设施的“降本增效”，即将“CPU处理效率低下、GPU处
理不了”的负载卸载到专用DPU，提升整个计算系统的效率、降低整体系统的
总体拥有成本（TCO）。新一代的DPU不仅可以作为运算的加速引擎，还具备
控制平面的功能，能够运行Hypervisor，更高效的完成网络虚拟化、IO虚拟化、
存储虚拟化等任务，彻底将CPU的算力释放给应用程序。DPU的出现也许是体
系结构朝着专用化路线发展的又一个里程碑。
本白皮书将重点分析DPU产生的背景、技术特征、软硬件参考架构，应用
场景、并对目前已经公布的DPU产品做简要的比较分析，为后续DPU技术发展
提供必要的参考。本文的大体结构如下：
第一部分介绍DPU的技术发展概况，首先对DPU做了一个基本的定义，然
后阐述了DPU发展的背景，并简要介绍DPU发展的历程，DPU在现有计算生态
中的角色，最后以DPU的产业化机遇作为总结。
第二部分详细说明DPU的特征结构，对DPU的定位做了进一步阐述，然后
提出一种通用的DPU的结构模型。
第三部分介绍DPU的应用场景，本文总结了三大应用场景：网络功能卸
载、存储功能卸载、安全功能卸载，这也是DPU目前最重要的三个应用方向。
All Rights Reserved 7
DPU White Paper
第四部分提出DPU开发的五层参考模型，包括设备层、操作层、计算引擎
层、应用服务层和业务开发层，既体现了DPU开发过程中的