2020年4月,英伟达宣布完成对以色列网络芯片商Mellanox高达69亿美元的收购交易,将DPU芯片推至半导体领域的焦点。半年后,英伟达就推出这笔收购所带来的最新成果——新一代DPU。
DPU,全名Data Processing Units(数据处理单元),被英伟达创始人黄仁勋称作与CPU、GPU共同组成“未来计算三大支柱”。这个新型计算单元宛如数据中心的一匹黑马,一时间变得炙手可热,并在国内外均掀起新一波投资热潮。
仅在今年,国内DPU创企中科驭数、星云智联、大禹智芯、芯启源、云豹智能等均宣布完成新融资,其中有多笔融资金额达数亿元人民币。
在国外,明星DPU创企Pensando、Fungible已经是“吸金”能力超强的数据中心新宠,Marvell创始人戴伟立、周秀文夫妇亦在2019年创立DPU新公司Dream Big Semiconductor。英特尔、Marvell、博通等芯片巨头更是早早押宝。
这个日渐走红的新赛道,真有能与CPU、GPU分食数据中心计算市场的潜力吗?
做CPU做不好、GPU做不了的计算任务
“每台服务器可能没有GPU,但绝对有DPU,好比每台服务器都必须配网卡一样。”中科驭数创始人兼CEO鄢贵海非常看好DPU的未来,并认为DPU的出现是异构计算的一个阶段性标志。
近年来随着海量数据爆发,计算任务愈发密集,传统以CPU为中心的数据中心架构日渐面临性能提升的瓶颈,由CPU大包大揽各种计算和管控任务,逐渐演变为多类异构算力资源各司其职。
英伟达创始人兼CEO黄仁勋曾解释说,现代数据中心由软件定义,运行数据中心的传统基础设施需消耗20-30%的CPU核心资源,而DPU即是专为CPU“减负”的一种新型专用处理器。
网络、存储和安全
DPU主要承担起的加速处理任务,旨在满足网络侧专用计算需求,尤其适用于服务器量多、对数据传输速率要求严苛的场景。
它将CPU所不擅长的网络协议处理、数据加解密、数据压缩等数据处理任务通通接手,通过处理器和网卡的组合,兼顾传输和计算的需求。DPU也被看作是智能网卡(SmartNIC)技术的演化增强版本。
如今数据中心倡导以资源池的形式来做,各类资源分别管理、扩容,而DPU宛如一个连接枢纽,可以起到中心调度管理的作用,一端连接各种CPU、GPU、SSD、FPGA加速卡等本地资源,一端连接交换机/路由器等网络资源。
“大家认为,可能在未来的数据中心云端架构上,DPU取代了CPU,成为一个最关键的、最核心的芯片地位。”半导体行业知名投资人、华登国际合伙人王林说,如果将整个数据中心看成一整个大的服务,DPU就相当于这个大服务器里的CPU。
总体而言,DPU不仅能提高网络传输效率,而且释放了CPU算力资源,从而带动整体数据中心的降本增效。
02
云计算刚需,巨头齐上阵
对于云计算厂商及大型互联网企业,采购DPU产品已是必然走向。往前追溯,国内外头部云计算厂商均已率先尝试类似的思路。
早在2013年,亚马逊云科技(AWS)就开始研究如何将网络、存储等之前由CPU处理的任务卸载到NIC卡上,随后收购以色列芯片商Annapurna Labs,并在2017年发布典型产品AWS Nitro。
AWS的这一尝试,不仅释放CPU的算力资源,也降低了数据中心成本。国内阿里云亦在其神龙服务器核心组件MOC卡中应用了专用X-Dragon芯片,统一支持网络、I/O、存储和外设的虚拟化。
过去数年间,博通、Mellanox、赛灵思、英特尔等芯片公司均推出自家DPU产品,除了加强其对于网络协议和网络安全的处理能力外,也陆续在网络、存储和计算方面均分别展现出许多优势。
与GPU不同的是,DPU面向的应用更加底层,类型更多样,冲在DPU前排的各家厂商在具体功能侧重上也各不相同,大体差别如下:
在收购Mellanox后,英伟达进一步增强其DPU与GPU能力的组合,并在去年亮出新路线图,号称要将DPU性能三年提升1000倍。明年英伟达将发布加持AI能力的BlueField-3X DPU。
今年英特尔、Marvell等芯片巨头继续加码DPU。
6月,英特尔发布了可编程网络设备IPU(Infrastructure Processing Unit,基础设施处理器),用于扩展智能网卡功能,加速存储虚拟化、网络虚拟化和安全等功能,并释放CPU核心。其首个基于FPGA的IPU平台已为多个云服务提供商完成部署,首款ASIC IPU也正在测试中。
7月,Marvell推出采用台积电5nm制程工艺的OCTEON 10系列DPU,首用Arm Neoverse N2 CPU核心,并集成了机器学习推理引擎。首批OCTEON 10产品预计将于今年年底前出样,据称相比前一代标量处理引擎,它能将数据包的处理吞吐量大幅提升至5倍。
由于DPU处于发展初期,业界尚未形成统一标准,也还没有形成足够的规模部署,这为国内DPU创企带来了发展良机。
03
市场规模将达百亿量级
国内DPU创企成资本宠儿
DPU是今年SoC创业最火的概念,从去年开始苗头慢慢起来。
在今年南京世界半导体大会期间的SoC设计技术论坛上,半导体行业知名投资人、华登国际合伙人王林提到
根据Canalys Cloud Channels Analysis预测,到2023年,中国DPU市场规模将达190亿人民币。另据头豹研究院预测,中国DPU市场规模预计将在2025年超过37亿美元(约合240亿人民币)。
中科驭数、大禹智芯、芯启源、益思芯、星云智联、云豹智能
目前中国DPU产品主要由英伟达、英特尔、博通等国际芯片巨头供应,同时等国内DPU创企正组成推动DPU国产替代的生力军。
从创立时间来看,国内DPU代表创企集中创办于过去六年间,成立时间最早的是芯启源。大禹智芯、益思芯、云豹智能集中在2020年6-8月创立,星云智联则是今年3月刚成立。
中科驭数
从中科院孵化而出,成立于2018年4月。基于其自研KPU(Kernel Processing Unit)芯片架构,中科驭数在2019年10月实现业界首颗数据库与时序数据处理融合加速芯片的成功流片,并于2020年5月发布基于KPU架构的领域专用加速卡产品。
目前,中科驭数已与中泰证券、华泰证券、中信建投、金证股份、上交所技术等多家金融机构达成合作。除了金融计算领域,其DPU产品未来还可以广泛应用于数据中心、电信、物联网、互联网、混合云等其他领域。
大禹智芯
同样总部位于北京的,成立于2020年6月,在成立之初就获得天使轮融资,由中科创星和惟一资本联合投资;今年7月宣布完成数千万元Pre-A轮融资,由华义创投和奇绩创坛投资。
大禹智芯创始人、CEO李爽曾任美团云总经理、阿里巴巴网络技术总监、百度系统技术委员会主席,曾主导参与云计算战略和互联网巨头技术平台搭建,并曾领导开发中国第一代高性能网关,为中国云计算时代奠定硬件基础,有多年网络设备、服务器、处理器定制及异构平台研发经验。
据悉,大禹智芯团队成员来自阿里云、谷歌云,曾亲自领导实现过云平台和DPU,具有完整的DPU经验。其第一代智能网卡大禹DPU系列产品Paratus 1.0号称是是国内首款处理能力达25G的商用化DPU产品,已进入生产阶段,预计今年第三季度出货。该公司已开始研发100G的产品。
上海芯启源
创立于2015年,今年接连完成数亿元Pre-A2、Pre-A3轮融资。目前芯启源聚焦在5G云数据中心和高端EDA领域,拥有两大板块核心产品:。
芯启源创始人卢笙本科毕业于上海交通大学,后获美国Lamar University硕士学位,曾先后在博通、Marvell、ArtX等公司担任重要岗位,其核心团队已在芯片领域积累了20多年研发管理经验。
据悉,芯启源智能网卡是目前国内唯一的基于SoC架构的成熟DPU完整解决方案,拥有自主知识产权,目前已成熟量产,并获得了中国移动苏研院的首批智能网卡订单。
上海益思芯科技
2020年7月在上海成立,其创始人、董事长兼CEO黄益人作为半导体芯片行业专家、DPU智能网卡行业带头人。据悉,益思芯科技的技术团队由国内外网络、交换、存储领域的核心专业人员、研发人员组成,在网络、交换、存储及高性能CPU等领域具有深厚的技术实力。
今年7月,益思芯科技宣布已交付国内第一款自主研发的商用云原生智能网卡Stargate-F1000-SN,整卡功耗30W~40W。
深圳云豹智能
由原RMI公司(后被Netlogic/博通收购)联合创始人Sunny Siu萧启阳博士联合业界精英创立,其核心团队来自博通、英特尔、Arm、海思、阿里巴巴等国内外知名公司。
根据官网信息,腾讯、红杉资本、正心谷资本、耀途资本、中芯聚源、ACE Equity Partners、华业天成、OBN CAPITAL均为云豹智能投资方。
在创立云豹智能前,萧启阳曾任博通处理器和无线基础设施事业部大中华区总经理、NetLogic公司亚太区总裁兼总经理(2012年被博通以37亿美元收购)、RMI公司(被NetLogic公司收购)联合创始人兼亚太区总裁。
珠海星云智联
成立于今年3月,4月宣布完成数亿元天使轮融资,7月完成数亿元Pre-A轮融资。
据悉,星云智联的团队曾成功实现了多领域通信与网络芯片开发,核心成员都参与了网络大芯片从0到1探索、发展、优化、超越的全过程,具备全系统、长周期工程开发经验,拥有对云计算、互联网、运营商等多场景的深度理解,以及设计满足不同市场需求产品的能力。
星云智联正在研发的DPU将在IAAS和PAAS之间形成独立的CAAS(通信服务层),实现物理资源的“多虚一”和近乎裸金属性能的“一虚多”,简化IAAS,提升资源利用率;卸载PAAS中与通信数据流相关的处理,提升应用的通信效率和性能。
其他一些国内创企主研产品也可划分至DPU范畴,但因其官网没有明确提及与DPU的关联,因此未记入这篇文章中,欢迎读者在评论区补充更多正在研发DPU的国内公司。
04
结语:DPU创业大幕刚刚拉开
作为新型数据中心最重要的芯片之一,DPU正加速发展。在星云智联CEO于勇看来,未来十年,全球云计算和数据中心基础架构将迎来颠覆性变革,基于DPU的统一通信服务平台(CAAS)是这个未来架构的核心引擎。
从目前全球DPU产业格局来看,产品应用仍相对分散,尽管国际巨头占据技术和市场优势,但国内外的代际之差并非难以逾越。所幸国内多家企业已经在探索商业化落地的道路上。
对于接下来的发展,大禹智芯CEO李爽判断,DPU需要朝两个方向努力:一是提高虚拟化效率,二是提升流动数据的吞吐能力,以助力数据中心网络跨入100G目标。
虽然无论是实现核心技术转化为主营收入,还是让DPU这个新兴概念被更多客户所接受,都尚需时日,但在产业链上下游厂商的共同努力下,相信未来会有更多公司投入这一新兴赛道,共同推动国内DPU生态走向繁荣。