看不见的客人

英伟达为什么突然让CPU重新变得重要?_我的网站

会痛的十七岁

A |     
英特尔在文件中称,该公司计划筹集至多8.2亿美元资金,将用于营运资金和公司用途。    过去几年,数据中心里的CPU多少有些失意。         一谈人工智能,大家想到的是英伟达GPU、HBM、先进封装、NVLink,以及一排排功耗越来越吓人的液冷机柜。CPU虽然仍然装在服务器里,却越来越像一位负责开门、递文件、安排会议的办公室主任——不可或缺,但发布会的聚光灯基本轮不到它。         现在,英伟达却突然宣布:CPU不但重要,而且要重新成为AI基础设施的竞争焦点。         英伟达最新披露的Vera CPU,采用88个自研Olympus核心,支持176个硬件线程;最高提供1.2TB/s的LPDDR5X内存带宽、1.5TB内存容量,以及1.8TB/s的CPU与GPU一致性连接带宽。与上一代Grace使用Arm Neoverse授权核心不同,Olympus是英伟达面向数据中心重新设计的CPU核心。

B | (NVIDIA Developer)          一个靠GPU成为全球市值巨头的公司,为什么突然认真做起了CPU?答案当然不是黄仁勋忽然对通用处理器产生了怀旧情绪。英特尔将保留对Mobileye的控制权,该公司将持有超过7.5亿股B类股票,其投票权是A类股票的10倍。

C | 英伟达真正关心的,是如何让那些价格昂贵、功耗惊人、每一分钟都在燃烧资本的GPU少等一会儿。此外,英特尔预计将有4,626万股A类股票流通股,A类股票是投资者将在IPO中购买的股票。具体数量可能会更多,取决于承销商是否决定选择购买额外股票。英特尔预计,Mobileye总计将发行7.9626亿股流通股,如果以20美元定价,自动驾驶业务的估值将高达159亿美元。英特尔周二股价跌超2%,年初至今跌幅达到48%。         GPU越来越快,为什么CPU反而成了问题?          传统大模型推理大体上是一个相对集中的计算过程。2017年,英特尔以153亿美元收购了以色列的Mobileye。

D | 成立于1999年的Mobileye为自动驾驶汽车,以及驾驶员辅助等功能提供芯片、硬件和软件。

E | 英特尔目前正经历其核心业务——制造计算机芯片的转型。         输入数据送进GPU,GPU完成大量矩阵计算,随后输出结果。

F | 在这个阶段,CPU主要负责数据准备、系统管理和任务调度。只要CPU别拖后腿,主角自然还是GPU。它正在建造更多的工厂,但是建造和装备新的晶圆厂是资本密集型的。Mobileye在文件中称,该公司与奥迪(Audi)、宝马(BMW)和大众(Volkswagen)等汽车制造商有合作关系,其技术目前应用于800款车型。         但智能体AI的执行流程并不是这样。文件显示,Mobileye的营收强劲增长,从2019年的8.79亿美元增长到2021年的13.9亿美元。         一个智能体接到任务后,可能先在GPU上进行推理,随后调用搜索工具;再回到CPU执行Python脚本;然后访问数据库、解析网页、启动沙箱、调用API;完成之后再把结果送回GPU继续推理。

G |          一次复杂任务可能在CPU和GPU之间往返几十次乃至数百次。这些动作包括:          编译模型生成的代码          启动和关闭容器或沙箱          执行Python、JavaScript和数据库查询          完成检索、数据预处理和结果校验          调度多个智能体之间的任务          管理KV Cache和其他系统数据               这里面很多工作都不是把核心数量堆上去就能解决的。         假设一个工作环节必须按照A、B、C、D的顺序执行,那么增加十倍CPU核心,也不能让C跑到A前面去。Mobileye本财年前六个月实现收入8.54亿美元,较上年同期增长21%,该公司净亏损6700万美元。今年以来,由于通胀和利率不断上升、对美国经济的担忧以及美股波动,美国IPO发行受到了沉重打击,尤其是对Mobileye的科技公司同行而言。

H | 系统真正需要的是更快的单线程性能、更低的内存访问延迟,以及CPU在高负载状态下仍然能够稳定供给数据的能力。

I |          换句话说,GPU擅长千军万马同时冲锋,智能体执行链里却包含大量需要一个一个过关的单兵作战。         英伟达把这套逻辑概括为:CPU评价标准正在从“每美元可以买到多少核心”,转向“每美元和每瓦电力能够生产多少Token”。其官方资料称,Vera面向代码编译、Python执行和代码分析等智能体负载,相比其选择的x86基准系统最高获得约1.8倍性能;但这些结果由英伟达提供,测试平台和基准选择仍需要独立机构验证。

J |          这句话翻译得接地气一点就是:          GPU本来正在努力干活,结果CPU拿着材料迟迟不来。

K | 老板买了一屋子昂贵GPU,最后却看着它们排队等Python脚本执行完。         这当然不能忍。Dealogic的数据显示,美国IPO市场正在经历有记录以来最糟糕的一年之一,传统IPO的筹资规模可能是1995年以来最少的。

L |          Vera并不追求“核心越多越好”          过去十多年,服务器CPU有一条很清晰的演进路线:不断增加核心数量。美国主要股指均处于熊市,即从近期高点下跌20%或以上。另一个阻碍新上市的因素是:在2020年和2021年上市的大多数公司股价都低于IPO价格,其中许多公司的股价远低于IPO价格。         云计算公司希望在一颗CPU上运行更多虚拟机,服务更多租户,于是“每插槽核心数量”和“每美元虚拟CPU数量”成为重要指标。数百家原定于2022年在美国上市的公司现在被迫旁观,因为投资者愿意为它们业务支付的价格下降了。         2014年前后的高端Xeon通常只有十几个核心;今天的AMD EPYC已经进入百核时代,下一代Venice还将进一步提高密度。AMD已经宣布,第六代EPYC Venice在台积电2nm工艺上进入量产爬坡,并将在Helios AI机架中与MI450系列GPU配套使用。         英伟达却没有跟随这条路线,它没有把Vera做成一颗两三百核的CPU,而是选择了88个相对宽大的核心。         Olympus采用10路解码前端、深度乱序执行、神经网络分支预测和面向图数据访问的预取机制,目标不是在芯片里塞进尽可能多的核心,而是让每个核心在复杂软件环境下跑得更快。

M |          Vera还有一个值得关注的设计:计算核心集中在一块单片计算芯粒(Chiplet)上,而内存控制和I/O可以采用其他芯粒。这些公司没有在公开市场上市和融资,而是被迫以低得多的估值寻求私人资金,通过裁员或退出某些市场等其他措施削减成本,或者以远低于预期的估值上市。

N |          过去几年,Chiplet已经成为先进处理器的主流方向。这些公司用于增长或招聘的资金减少,这是对美国整体经济的又一个潜在打击。虽然大多数准备在2022年进行IPO的公司都将公开发行推迟到明年,但Mobileye是最大的、众所周知的例外之一。食品杂货快递公司Instacart也定于今年IPO,Mobileye估值的进一步下调对已经削减内部估值的Instacart来说是个坏信号。它能降低大芯片的制造成本,也便于组合不同功能模块。但Chiplet并不是白吃的午餐,数据跨越不同芯粒时会增加延迟和互连负担。         英伟达选择把88个CPU核心放在同一块计算裸片上,再通过第二代Scalable Coherency Fabric连接164MB共享三级缓存、内存和I/O。如果Mobileye的交易表现不佳,这将是对Instacart IPO希望的又一个不祥之兆。官方给出的“片内双向剖分”带宽约为3.4TB/s。         其设计逻辑非常明确:宁可少塞一些核心,也要减少核心之间、核心与内存之间的数据堵车。英特尔首席执行长格尔辛格(Pat Gelsinger)曾表示,Mobileye的上市将使其自动驾驶汽车部门获得更高的知名度,并吸引更多业务。

o | 他还表示,英特尔不需要Mobileye IPO带来的资金。如今在英伟达、地平线、华为、百度等技术性厂商崛起的背景下,Mobileye自动驾驶芯片一哥的位置实在难保。包括蔚来、特斯拉、理想在内的一众终端厂商,纷纷抛弃了Mobileye。特斯拉更不必说,在英特尔收购Mobileye之后,便与Mobileye分手,开始采用FSD芯片。理想在2021年也将EyeQ4换装成地平线征程3,而蔚来等一批车企更是为新一代车型选配了强大的英伟达Orin芯片。前段时间英伟达刚研发出算力“天花板”Thor,Mobileye这些老企业还有一席之地吗?不过Mobileye也发现了这些问题,正在进行下一代ADAS的产品开发,包括 SuperVision 系统的新功能以及导航辅助驾驶,希望能打破“英姿不再”的僵局。这与AMD、Intel近年来通过多芯粒提高核心数量和产品灵活性的方向,构成了一次非常有意思的架构分叉。         谁更正确?现在还远远没有答案。         如果工作负载可以高度并行,核心多当然有优势;如果大量任务依赖单线程速度、共享数据和低延迟,Vera的选择可能更有效。         真正的问题不是单片好还是Chiplet好,而是客户究竟在运行什么东西。         “智能体CPU”是真需求,还是营销部门的新包装?          看到“专为Agentic AI设计的CPU”,有经验的从业者难免会警觉。         半导体行业很擅长给旧需求换一个新名字。以前叫并行计算,后来叫AI计算;以前叫服务器,后来叫AI工厂;现在连CPU也开始穿上智能体的外套。         Ryan Shrout在其文章《NVIDIA Joins the Battle of Making the CPU Interesting Again》中提出了一个很好的问题:智能体AI所需要的,究竟是一种全新的CPU,还是一颗内存带宽更高、单线程性能更强的优秀服务器CPU?          英伟达给出的回答其实比较诚实:基础计算原理并没有改变,变化的是任务发生的频率和系统负载强度。

p |          虚拟机和容器并不是智能体时代才出现的,数据库查询、脚本执行、数据检索也存在多年。区别在于,过去它们可能偶尔发生一次;智能体工作流却会持续创建环境、执行代码、访问数据、销毁环境,然后再来一遍。         强化学习同样需要同时运行大量CPU环境,对模型生成的行为进行评估和反馈。         因此,所谓“智能体CPU”并非凭空出现的新物种,更准确的说法应该是:智能体AI放大了服务器CPU中原本就存在的性能矛盾。

q |          过去,CPU慢一点,用户可能多等几十毫秒。现在,CPU慢一点,后面的几十颗甚至几百颗GPU都可能一起等待。

r | 普通服务器里,CPU本身就是主要计算资产;AI机架里,CPU旁边站着的是一群价格远高于它的GPU。         于是CPU的经济价值发生了变化。英伟达并不是单纯出售一颗更昂贵的Arm CPU,而是试图告诉客户:不要只看CPU价格,应该看它能为整套GPU系统追回多少利用率。         这套说法非常聪明。

s | 因为一旦评价标准从“每颗CPU多少钱”变成“每个机架能多生产多少Token”,CPU成本可能真的会成为小数点后的数字。         Vera真正要挑战的,不只是Intel和AMD          表面上看,Vera进入的是服务器CPU市场,竞争对手自然是Intel Xeon和AMD EPYC。

t |          但英伟达的真正目标可能更大。         亚马逊已经把Graviton推进到第五代,最新Graviton5实例相较上一代官方宣称可提高最多25%的计算性能;谷歌也通过Axion处理器为Google Cloud提供自研Arm CPU平台。(Amazon Web Services, Inc.)          这些云厂商做CPU,主要是为了控制云计算成本和产品差异化。它们关心的是同样一台服务器能够出租多少虚拟机?每个CPU的成本是多少?一度电能够服务多少云客户?          英伟达的思路不同。         Vera并不是首先作为一颗通用CPU,孤零零地插入普通服务器插槽,与Xeon、EPYC争夺每一台企业服务器。         Vera最重要的应用场景,是Vera Rubin NVL72等英伟达AI系统。在这套机架里,36颗Vera CPU与72颗Rubin GPU、NVLink交换系统、ConnectX网卡和BlueField DPU共同工作。         这意味着英伟达销售的并不是CPU。它销售的是一套由英伟达定义的计算系统,CPU只是其中一个控制点。以前,英伟达需要让自己的GPU适配Intel和AMD的服务器平台。现在,它希望从CPU、GPU、互连、网卡、DPU到系统软件全部掌握在自己手里。

u |          这才是Vera最值得警惕的地方。         英伟达已经不满足于占领加速卡插槽,它开始一点一点吃掉服务器主板、网络交换、数据处理和系统架构的价值。今天做CPU,明天做存储处理器,后天做机架,最后客户采购的可能不再是若干部件,而是一座完整的“英伟达AI工厂”。

v |          到了那个时候,传统服务器厂商越来越像施工队,传统CPU厂商则可能从平台定义者退化为零部件供应商。         Intel与英伟达的关系,变得有些微妙          事情也并不是英伟达推出Vera之后,Xeon立即被扫地出门。

w |          Intel在2026年3月宣布,Xeon 6被用于英伟达DGX Rubin NVL8系统。

x | 这说明,在需要兼容传统软件、通用企业负载和标准服务器生态的产品中,英伟达仍然需要x86 CPU。

y |          于是出现了一个颇有意思的局面:英伟达一边采购Intel CPU,一边推出自己的CPU与Intel竞争。         这看上去有些别扭,实际上非常符合平台公司的做法。在生态尚未完全成熟时,英伟达需要Xeon帮助其进入传统数据中心;在最先进、价值最高的机架级AI系统中,它又希望使用Vera,把系统的每一个关键环节握在自己手中。         Intel真正面临的风险,不是Vera立刻抢走所有Xeon订单。而是服务器CPU的战略位置可能被重新定义。         过去,CPU是服务器的中心,GPU是挂在CPU旁边的加速器。Vera Rubin时代,GPU开始成为系统中心,CPU则被重新设计为服务GPU利用率的调度和数据处理引擎。         这相当于原来坐在董事长位置上的CPU,虽然还没有被赶出会议室,却开始负责给新董事长准备会议材料。         AMD同样需要回答这个问题。         AMD拥有EPYC和Instinct两条产品线,理论上比Intel更容易构建CPU与GPU协同平台。

z | Helios正是AMD给出的答案:用Venice CPU、MI455X GPU、Pensando网卡和ROCm软件组成开放机架。         因此,未来的竞争不只是Vera对Xeon、Vera对EPYC。         真正的较量是:Vera Rubin与AMD Helios,谁能让整个机架生产更多Token?          现在谈Vera获胜,还为时太早          从英伟达提供的数据看,Vera相较现有x86系统,在代码编译、Python执行、数据分析、图计算和高负载内存访问等场景中表现亮眼。         此外,英伟达也公布了Perplexity、纽约证券交易所和美国国家实验室等早期测试案例。不过,这些结果目前仍主要来自英伟达及合作伙伴,部分基准采用预量产系统,一些比较对象也是已经上市一段时间的Intel和AMD产品。         而Vera真正大规模交付时,将面对的并不只是今天的Granite Rapids或者EPYC Turin。AMD Venice已经进入台积电2nm量产爬坡;Intel也在准备下一代Xeon产品。         此外,单线程性能高并不等于所有服务器工作负载都更快。

|          数据库、虚拟化、Web服务、高性能计算和智能体工作流之间的性能需求差异很大。部分场景更看重核心数量,部分需要大容量DDR内存,部分依赖软件认证,还有大量企业应用仍然建立在x86生态之上。         英伟达必须证明几件事:          第一,Vera的高单线程性能能够在满负载状态下持续保持,而不是只在选择性基准中领先。

|          第二,LPDDR5X虽然带宽高、功耗低,但容量、成本、可维护性和供应能力能够满足数据中心需求。         第三,Arm软件生态能够支持复杂企业应用,而不只是英伟达自己控制的AI机架。         第四,Vera带来的GPU利用率提升,足以覆盖客户迁移平台和重构软件的成本。         英伟达把题目出得很好,但最终还要由客户的电费账单和采购合同判卷。         CPU市场不会被Vera统一,反而会进一步分裂          Vera出现后,服务器CPU市场可能不再是Intel与AMD之间简单的x86之争。         未来至少会形成四种路线。         第一种,是Intel和AMD继续提供的通用型x86处理器,强调软件兼容、企业生态和广泛的工作负载适应性。

|          第二种,是AWS Graviton和Google Axion等云厂商自研CPU,重点追求云服务的成本、能效和内部工作负载优化。         第三种,是Vera这种与GPU、网络和AI软件深度绑定的AI工厂CPU,评价标准是GPU利用率和每机架Token产量。

|          第四种,则可能是面向高性能计算、存储、数据库或特定行业的专用Arm处理器。         过去,服务器CPU试图成为无所不能的通用平台。未来,CPU很可能越来越围绕特定系统目标设计。         这其实是半导体产业非常熟悉的故事:当一个通用市场足够大之后,专用化迟早会发生。GPU已经从通用图形芯片变成AI专用计算平台;现在,AI反过来又推动CPU从通用处理器走向系统定制。         对中国处理器产业有什么启示?          国内服务器CPU讨论中,也经常陷入一种简单的参数竞赛:          核心有多少?          主频有多高?          工艺是多少纳米?          单项跑分追上谁?               这些问题重要,但Vera提醒我们,先进处理器的竞争越来越不是一张规格表能够说明的。真正决定AI系统表现的,是CPU核心、缓存、内存带宽、片内互连、CPU与GPU的一致性、编译器、操作系统、容器环境和任务调度之间的整体协同。         国内AI芯片企业往往非常重视加速器算力,却容易低估主机CPU和系统软件。结果可能是AI芯片的理论算力很漂亮,数据准备、任务调度、集合通信和软件执行却跟不上。芯片发布时威风八面,进了数据中心之后,大家一起排队等数据。         未来国产计算体系需要关注的,不只是再做一颗CPU或者GPU,而是建立:          CPU与AI加速器之间的高速一致性互连          高带宽、低功耗的内存系统          面向智能体和强化学习的运行环境          真实集群下的延迟、故障和利用率测量体系          从芯片到机架的软硬件协同设计能力               核心数是最容易印在海报上的数字。

| 系统利用率却是最难伪装的结果。         结语:CPU没有复兴,它只是换了一个老板          Vera的出现并不意味着计算产业重新回到“CPU为王”的年代。         恰恰相反。CPU之所以重新受到重视,是因为GPU已经变得太昂贵、太重要,以至于所有可能让GPU等待的环节,都必须被重新设计。从这个角度看,Vera不是CPU对GPU的反攻。它更像是英伟达为了维护GPU统治地位,亲手打造的一名高级管家。         这名管家跑得足够快,就能让整座AI工厂少停顿、多生产Token;而谁控制了这名管家,谁就更有机会控制整个机架。因此,英伟达进入CPU市场真正带来的冲击,不是服务器市场又多了一个Arm处理器。而是数据中心竞争的基本单位,正在从单颗CPU、单颗GPU,升级为完整的计算系统。         Intel和AMD过去争论的是每个插槽放多少核心。英伟达现在却把问题改成了:          一座AI工厂每兆瓦电力能够生产多少智能?          这才是Vera真正想重新定义的CPU战争。

Current article:http://www.cuancuguanzhongnieqinyazhun.cyou/list_oe2p/pzv.html

Published on:15:47:32