随着人工智能产业的持续高速发展,AI在智能安防、无人驾驶、智能手机、智慧零售零售、智能机器人等几大行业不断落地,工信部提前发放5G商用牌照,人工智能正在引爆新一轮智能化热潮。#人工智能#
在持续已久的“AI热潮”中,各家争相推出的大模型、AI应用,都进一步推升了对算力狂热的需求。
英伟达A100和H100是目前最为稀缺的战略物资,3月以来英伟达开始明显加单。
本周已有报道指出英伟达后续对AI顶级规格芯片需求明显看增,紧急向台积电追加预订先进封装产能。
新一轮人工智能浪潮下,国内AI智算中心等数字化基础设施不断完善,AI模型复杂度和参数量的快速提升,对计算能力要求不断提高,高性能人工智能芯片市场将保持高速增长,产业链各环节有望迎来高速增长机遇。
根据艾瑞咨询,2022年中国人工智能芯片市场规模达到396亿元,预计2027年市场规模将达到2,164亿元,CAGR为40.5%。#芯片#
AI芯片行业概览
AI芯片是算力的硬件基石和核心,也被称为计算卡或AI加速器。
从广义上讲只要能够运行人工智能算法的芯片都叫作AI芯片。但是通常意义上的AI芯片指的是针对人工智能算法做了特殊加速设计的芯片。
现阶段,这些人工智能算法一般以深度学习算法为主,也可以包括其它机器学习算法。专门用于处理AI应用中大量计算任务的模块。
关注乐晴智库,洞悉产业格局!
AI芯片产业链:
人工智能芯片三大主流路线
用于执行人工智能算法的芯片可以采用不同的技术路线。
目前,GPU(通用型)、FPGA(半定制化)、ASIC(全定制化)成为AI芯片行业的主流技术路线。不同类型芯片各具优势,在不同领域呈现多技术路径并行发展态势。
GPU
GPU(Graphics Processing Unit)的设计和生产均已成熟,占领AI芯片的主要市场份额。
GPU擅长大规模并行运算,可平行处理海量信息,是AI芯片的首选。
服务器和数据中心用的处理器芯片本身就不断增长,而目前计算仍主要依靠CPU,随着AI算力需求的提升,数据中心算力呈现多样化趋势,主要用于AI计算的GPU占比不断提升。
据IDC数据,GPU在云端训练市场占比高达75%。
行行查 | 行业研究数据库 资料显示,在全球范围内,英伟达和AMD形成双寡头垄断,尤其是英伟达占GPU市场份额的70%-80%。
由于国外GPU巨头具有丰富的芯片设计经验和技术沉淀,同时又具有强大的资金实力,中国短期内无法撼动GPU芯片的市场格局。
GPU不涉及CPU通常遇到的复杂的分支运算,成为AI芯片的最优选择:
资料来源:Ofweek
国内厂商GPU市占率不足1%,美国对华制裁加速GPU国产替代。
前几年主要是美国将中国超算中心及相关GPU芯片企业拉入实体清单,以此达到限制中国AI以及超级计算机的发展,但是限制范围限于超算单一场景。
2022年9月,美国针对AI、HPC及数据中心研发所用的高端GPU发出限制,英伟达的A100和H100以及AMD的MI250芯片暂停向中国客户销售。
2022年10月,美国升级禁令限制范围,对高算力芯片的连接速度和每秒运算次数等具体参数做限制,除英伟达和AMD外,国内厂商海光信息的部分产品也被加入到限制范围内。
美国将制裁限制范围由应用场景扩大到芯片和产品层面,其实也是代表着国内相关GPU产品或下游应用发展超过美国政府的预期。
美国持续加大对中国高端芯片的出口限制,高速运算相关的GPU、CPU等芯片国产化进程必然加快。
从国产替代方案来看,景嘉微、海光信息、好利科技、壁仞科技等厂商有望受益。
国内GPU产业链情况:
FPGA
FPGA(Field Programmable Gate Array)芯片在数据中心领域主要用于硬件加速,具有可硬件编程、配置高灵活性和低能耗等优点,并被广泛应用于2016年后发布的云计算模型中。
FPGA作为AI加速芯片:
资料来源:沐曦科技
2022年11月以来,随着Chatgpt-3&4、“文心一言”、“盘古大模型”等国内外语言类大模型陆续发布及开放测试,对AI芯片市场预计将产生较强拉动。
FPGA相比ASIC,FPGA芯片在性能、灵活性、同构性、成本和功耗等五个方面可以达到出色的平衡。
相比于CPU,FPGA芯片由于其无指令、无需共享内存的体系结构,能够同时提供强大的计算能力和足够的灵活性。
由于数据中心使用FPGA芯片代替传统的CPU方案后,处理其自定义算法时可实现显著的加速效果,从而后续在微软Azure、亚马逊AWS、阿里云的服务器中,FPGA芯片都得到了广泛部署。
相比GPU,FPGA芯片在数据中心领域具有低延迟及高吞吐的优势。
FPGA技术壁垒高,市场呈双寡头垄断:赛灵思(Xilinx)和英特尔(Intel)合计占市场份额近90%,其中赛灵思的市场份额超过50%,始终保持着全球FPGA霸主地位。
赛灵思拥有全球最为领先的FPGA产品,同时拥有自适应SoC、加速器和SmartNIC解决方案,对AMD在数据中心领域和边缘领域能力起到了有效补充。
英特尔斥巨资收购Altera是要让FPGA技术为英特尔的发展做贡献。表现在技术路线图上,那就是从现在分立的CPU芯片+分立的FPGA加速芯片,过渡到同一封装内的CPU晶片+FPGA 晶片,到最终的集成CPU+FPGA系统芯片。预计这几种产品形式将会长期共存,因为CPU和FPGA的分立虽然性能稍差,但灵活性更高。
英特尔FPGA技术路线图:
FPGA下游最大应用领域为通信行业,占比超过40%,国内民用FPGA龙头为紫光同创(紫光国微持股30%)和安路科技,在通信领域验证加速,持续快速增长。
在国内外生成式预训练语言类大模型陆续发布的大背景下,FPGA市场将受到较高更快拉动。
根据Semico Research的数据,人工智能领域的FPGA全球市场规模2023年有望达52亿美元,五年复合增速有望达38.4%。
ASIC
随着芯片专用化的趋势逐渐显露,越来越多的芯片厂商开始尝试其他技术路线来实现人工智能算法的计算,如FPGA和ASIC,其中最被看好,同时竞争格局最为开放的是ASIC。
ASIC(Application Specific Integrated Circuits)是面向特定用户需求设计的定制芯片,可满足多种终端运用。
尽管ASIC需要大量的物理设计、时间、资金及验证,但在量产后,其性能、能耗、成本和可靠性都优于GPU和FPGA。
与GPU与FPGA形成确定产品不同,ASIC仅是一种技术路线或方案,着力解决各应用领域突出问题及管理需求。
目前,ASIC芯片市场竞争格局稳定且分散。
ASIC芯片上中美技术差距较小,是中国企业较好的突破口。大陆的ASIC技术与世界领先水平差距较小,部分领域处于世界前列。
对于刚刚涉及芯片领域的公司来说,ASIC的技术门槛低于GPU和FPGA,因为其可以不必追求很高的通用性和灵活性,而只需要针对应用场景进行设计,通过舍弃灵活性可以达到很好的性能效果。
在海外,谷歌TPU是主导者;国内初创芯片企业(如寒武纪、比特大陆和地平线),互联网巨头(如百度、华为海思和阿里)在细分领域也有所建树,目前已经取得了一定的成果。
FPGA芯片和ASIC成本对比:
资料来源:头豹研究院
AI云端和终端芯片
依据部署位置,AI芯片可划分为云端(如数据中心等服务器端)和终端(应用场景涵盖手机、汽车、安防摄像头等电子终端产品)芯片。
目前在云端AI芯片市场上英伟达一家独大,尤其是在云训练端,主要原因是英伟达GPU产品线丰富,编程环境成熟,产品支持市场上主要的开发框架和语言。
但同时其产品也存在着功耗偏大、价格昂贵等问题(V100芯片售价达10万元,DGX系列服务器售价过百万元)。
英伟达丰富的产品线和良好的生态环境是其核心竞争力:
基于此,各大云厂商纷纷提出自己的AI芯片开发计划以摆脱上游AI芯片供货商一家独大的垄断市场情况。
此外,根据数据显示,推断市场未来增速和空间将会高于训练端市场,而GPU芯片并不善于推断任务,
因此,在当前智能服务器渗透率尚低,GPU产品并非完美解决方案的情况下,对于其他AI芯片厂商云计算中心市场依然存在着较大的市场空间可以进入。
终端AI芯片市场上百家争鸣,不存在通用的解决方案。
目前边缘端的应用领域主要包括安防、智能家居、智能机器人、自动驾驶等。
因为这类应用对功耗、成本甚至尺寸的压力更大,主要包括一些物联网,可穿戴应用,所以对于专用处理器的需求更显著。这类应用的总量很大,但差异化明显,需求五花八门,存在很多变数,技术上很难用一种架构来实现。
同时,相对泛手机芯片而言,这类芯片的资金投入门槛不高。随着Nvidia开源DLA,如果配合开源的RSIC-V CPU,门槛可能会进一步降低。
AI训练和推理芯片
依据承担的功能和在实践中的目标,AI芯片可划分为训练和推理芯片。
AI训练芯片的厂商全球屈指可数,相关芯片主要以服务器、集群、加速卡等模式用在云端,在边缘端也将逐渐出现。
AI推理芯片门槛相比训练难度较低,一些优秀的创业公司依靠Fabless模式进入市场。芯片公司可提供专用的人工智能芯片/IP和开发工具。
训练芯片面向数据中心、汽车等行业客户,也有大量云公司设计自用芯片内部使用。
推理芯片部分集成在硬件终端,如手机、摄像头、汽车、矿机等,部分用于云端提供服务。
国内部分公司在国产化的大趋势下也值得关注。这些公司在边缘计算中心、汽车、IoT等领域的推理市场的机会更大,针对行业定制的推理芯片可能是破局之道。
目前,自动驾驶、摄像头、数字货币挖矿等领域已经出现了大量定制推理芯片,未来行业的发展将更为明确。而数据中心训练市场等的发展需要依靠不断研发缩小差距。
AI芯片整体市场格局
完整的产业布局成为支持美国AI芯片初创企业的重要力量,使得这些初创企业可以将主要资源集中在某个环节,从而更快取得突破并实现商业化。
目前的AI芯片市场中英伟达凭借硬件优势和软件生态,市场份额较高。
算法方面,模型的复杂度不断提升;软件方面,AI框架的使用越来越集中,有大型模型训练能力的芯片将会更加集中,而软件工具支持的芯片类别也会更加集中。
因此英伟达的优势难以短期撼动。
相比于海外市场头部企业的并购潮,中国出现了大量创业公司致力于数据中心和汽车领域的AI芯片设计,并形成了和海外公司比肩的演进路线图。#5月财经新势力#
总体来看,欧美日韩基本垄断中高端云端芯片,国内布局主要集中在终端ASIC芯片,部分领域处于世界前列,但多以初创企业为主,且尚未形成有影响力的“芯片−平台−应用”的生态,不具备与传统芯片巨头(如英伟达、赛灵思)抗衡的实力;而在GPU和FPGA领域,中国尚处于追赶状态,高端芯片依赖海外进口。
关注乐晴智库,洞悉产业格局!