6月初 黄仁勋在台北展示了一颗名叫RTX Spark的超级芯片,能运行Windows系统,能跑本地AI,能做创作,还能玩游戏,并且他激情官宣,英伟达要用它重新定义个人电脑。四个月之后,搭载这颗芯片的笔记本正式开卖,老黄和微软CEO纳德拉也趁着国庆假期做了一次深度长谈。他说,为了把ARM CPU,Blackwell,GPU,NVLINK,互联和128G的统一内存做成一颗芯片,并且让它跑起来Windows,英伟达投入了超过4000人年,相当于4000工程师干一年的工作量。可是有意思的是,这颗芯片和去年3月发布的DGX Spark用的芯片几乎一模一样,只不过在上面跑的操作系统从Linux改成了Windows。所以问题就来了,用同样一颗芯片,老黄凭什么说要重新定义个人电脑?英伟达和微软这次联手是看到了什么新机会?Windows,而且是在ARM架构上跑的Windows操作系统,会不会拖这颗芯片的后腿?这台电脑的实际表现到底怎么样?到底值不值得买呢?这期视频我们就一口气来看一下。要理解RTX Spark,我们得先从英伟达最值钱的东西说起,那就是Kuda。简单来说,Kuda是一套编程工具,让原本用来画图的GPU能够拿来训练AI做科学计算。20年下来,全世界大部分的AI框架,算子库和优化工具都是先为Kuda来写的。开玩者想换平台,就得把这些代码重新写一遍,调一遍。这个迁移的成本就是因为达着几十年构建起的一条隐形的护城壳。但是到了AI时代,这条盒好像没那么深了。以前把一个Kuda算子移植到别的硬件,工程师可能得调好几个星期。现在让AI先写个出版再改一改,可能几天就够了。再加上PyTorch、Triton这些框架,把底层的硬件藏得越来越深,很多人写模型已经不直接去碰Kuda。但是Kuda的壁垒可不只是代码还有多年积累的库调式工具,以及把硬件性能榨干的这些经验。AI一时半会还复制不了,所以当代码越来越好搬,英伟达真正能够依靠的就变成了另外一样东西。开发者每天在用什么样的平台,习惯用什么样的工具。换句话说,英伟达想把Kuda的护城河从代码转向人。而未来的AI应用,很多活本身就在本地去干。比如说让AI帮你做一份市场调研,他需要读你电脑的文件,上网搜资料,跑python,画图表。有些本地就能搞定,那男的活才去交给云端的大模型。如果本地这块大家都用MacBook加上MLX,或者是别的不是Kuda的平台。英伟达丢掉的就不只是个人电脑这个非常重要的AI入口,还有整个一代AI开发者的习惯。当护城河变浅的时候,这些就更不能丢。所以RTX Spark要做的就是把Kuda、Tensor RT这一整套能力搬上Windows笔记本,让开发者从第一行代码起,就写在英伟达的平台之上。等需要更强的模型或者更大的算力的时候,同一套技术战能直接扩展到工作站或者是云端。这个套路老黄其实之前玩过一次,当年他让每一个GeForce游戏显卡都能跑Kuda。学生在宿舍里就能上手,等深度学习一爆发,Kuda就顺利成章成了事实标准。现在他想把这个剧本再演一遍,让英伟达继续做这个时代的默认加速环境。而且老黄这次还不只是手,还要弓,过去20多年英伟达在PC上就是卖卖显卡,但是智能体需要的可不只是GPU,还要CPU、内存、互联、安全、电源管理等等一起去配合。就像一辆车的支架做得再好,但是刹车踩两下就断了,肯定也不行。所以RTX Spark把CPU、GPU和统一内存做进了一颗芯片。这次老黄不再想只是给X86厂商提供发动机了,他要自己去造整车,把PC架构的定义权握在自己手里。既然要自己造车,就得有条路去跑,英伟达选的路是Windows on ARM。其实这条路微软已经修了十几年了,从最早的Windows RT到高通推动的骁龙X和Copilot加PC。现在拿来办公做轻薄本已经没有什么问题了,但是一碰游戏专业的创作还有高性能的计算还是力不从心。这里的问题并不在ARM架构本身,因为苹果的M芯片早就已经证明了通过把CPU、GPU和统一内存集成在一颗SoC里,再加上MicOS和芯片的深度协同,ARM架构一样可以做到又强又省电。所以真正卡住Windows on ARM的是GPU和软件生态。而这些短板恰恰是英伟达最擅长的,高性能GPU几十年的游戏驱动,还有和专业软件厂商的合作关系,还有Cuda。但是英伟达手里没有操作系统,于是就找上了微软。一个有新,一个有魂,一派结合。不过英伟达的GPU早就有了,Windows on ARM也折腾了十几年,这两边之所以现在才走到一起,是靠一个新的故事的主推。那就是从去年开始,AIPC的叙事换了,从本地跑大模型变成了本地跑智能体。那前几年大家说AIPC说的都是能跑多大的模型,算力有多强。那RTX Spark当然也能讲这个故事,比如说这台就有128G的统一内存,装大模型肯定不成问题。但是这个故事有个硬伤,那就是花几万块钱买大内存电脑跑本地模型,对于绝大多数人来说并不划算。这笔钱过你用好多年的云端API,而且本地模型还没有云端聪明,速度也更慢。但是随着智能体的爆发,AIPC的叙事重点变了,他说的不再只是往电脑里塞一个大模型,而是让智能体在你的电脑上帮你干活。那跟本地大模型这种性价比的硬伤比起来,智能体在本地运行的理由就充分的多。因为它要处理的东西本来就在你的电脑里,像文件、软件、开发环境,还有那些你不愿意上传到云端的照片、账单、这些私人的数据等等。把这些全都搬上云,又慢又不安全,而且有些软件还根本就搬不走。而智能体一旦在本地长期运行,对电脑的需求和要求也就跟着变了。它可能一边都用小模型做大量的简单的判断,一边要处理本地的视频、图片和文档。好几个智能体还会同时开工。这个就需要CPU、GPU还有内存的紧密配合。也需要操作系统管好调度、权限和安全隔离。这些都需要重头做,就给ARM版的Windows带来了一次换到的可能。但是要把这个可能真正的变成产品,光靠英伟达一颗芯片是远远不够的。还要在软件上下大功夫。这块拼图的另外一半其实在微软的手里。芯片决定了一台电脑性能的下限,但是能不能把芯片的性能充分的发挥出来,很大程度上还取决于操作系统的能力。就像英伟达造了辆好车,但是这辆车在哪条路上跑,交通规则怎么定,得由微软说的算。几个月前老黄说RTX Spark要跑Windows的时候,我心里咯噔了一下,毕竟按照微软的过往战绩来看可能还要出事情。不过在10月7号老黄和纳德拉的对谈里,微软拿出了不少专门为RTX Spark和ARM版Windows做的优化,把很多过去被人吐槽的地方给补上了,或者起码在尝试去补了。值得说的有下面这么几个。第一个就是让老软件能够在新平台上跑起来。我们用的Windows软件绝大多数都是为X86芯片写的,ARM芯片看不懂,微软的办法是用一个叫做PRISM的转译层,在软件运行的时候把X86指令实时翻译成ARM指令。大部分老软件不用改就能用,比如说这次我就把一些芯片开发的EDA软件在RTX Spark上用这种转译的方式跑起来了。PRISM其实并不是什么新东西,2024年就随着Windows11的一次更新上线了,去年还加入了AVX、AVX2指令的支持,这样也能让很多游戏和软件能在ARM电脑上打开了。这次Vira又针对RTX Spark的CPU做了专门的性能优化,当然了转译只是过度,最理想的是软件直接出ARM的原生版本。所以在今年6月ARM推出了APP Ready for Windows计划,来帮助开发者去排查哪些组件和代码还绑着X86,并且提供工具和工程师支持。ARM自己也知道ARM把Windows上的原生软件越多,它在PC市场的机会也就越大。第二点也是这次更重要的是一个叫做MXC的智能体执行环境,它补的是Windows缺少的对智能体的管理机制。具体来说,传统的Windows是为人操作电脑来设计的,你点一下它就动一下,权限是跟着你这个用户来走。可是智能体不一样,你交代一句话,它可能在背后自己去改文件、跑代码、上网,甚至同时开好几个软件。这种操作可能还会干个几百次。但是你可能只是让它改一个代码项目,它就可能顺手就翻到了你的私人文件。你信得过自己,但是同样的权限交给一个可能犯错,甚至可能被恶意指令测反的AI可就不行了。所以必须约束智能体的权限和工作范围。微软给出的办法是叫做Microsoft Execution Containers,就是微软执行容器,简称MXC。它的思路就是由操作系统直接给智能体的权限上锁。开发者可以提前规定智能体能碰哪些文件,能访问哪些网站。操作系统在运行的时候就强制的执行。就算AI被骗了,想要越界,系统也不会放行。专业的朋友可以问,MXC是不是一种新的杀箱呢?其实也并不是。它是把Windows已经有的各种隔离手段给整合起来,变成一套专门管智能体的规则。每个智能体每个任务能拿到的权限都可以不一样。我们就拿隔离的强度来举例。最轻的是把智能体关在一个受限的进程里。再严一点是给它开一个独立的Windows账户绘画。最严格的是放进一台小的虚拟机。比如说你正在剪视频,同时安排了三个智能体,一个去整理素材,一个开浏览器查资料,还有一个在后台跑代码生成视频。有了MXC整理素材的只能碰素材文件夹,查资料的能上网,但是却碰不到你的账号密码。跑代码就算翻车也影响不到你正在剪的视频项目。这个对于RTX Spark非常的关键。因为只有当你相信智能体不会乱来,你才敢让它长期在电脑上干活。而智能体一旦长期干活,本地的GPU和大内存才真正有了用处,才能让这台电脑的算力有机会被真正的用起来。所以RTX Spark想要成功,芯片只是其中的一环。Windows本身以及在上面跑的各种软件也不能成为短板。老黄说,英伟达和微软已经对超过1200款应用软件做了测试和优化,并且会持续推进生态的支持,不会有终点。接下来就是上手实测的环节,我替你拿到的是这台联想Yoga Pro 15RTX Spark,128G的统一内存2T硬盘的版本。首先来看本地大模型的表现,我测了四种现在非常流行的模型,分别是两个千问3.827B的稠密模型,分别用Q4量化还有BF16的原始精度。还有两个是MOE混合专家模型,分别是千问3.635B A3B,还有JAMA4 26B A4B,每个模型分别为了16K、32K和64K三种长度的输入,测试框架是我之前开源的RTX LM,链接在下方的评论区里。测试的结果汇总在这个表格里,信息量有点大,我帮你梳理了三个发现。首先就是如果在RTX Spark上跑稠密模型,比如尝试个很火的千问3.827B,应该优先用Q4而不是BF16。128G的内存虽然能够装得下27B的这种BF16版本,但是这台机器的带宽只有300G每秒,导致BF16精度的抵扣性能只有11Token每秒,而Q4就能到达28.5,快了两倍多。然后prefuel性能两者差不多,因为决定prefuel性能的其实是GPU的算力,所以这台机器上不要盲目追求模型的参数大或者是精度高,装得下并不等于跑得好,Q4反而才是稠密模型的甜点。第二个发现就是对于长上下纹的智能体任务,或许尽量不要去调用稠密模型。27B的稠密模型在64K输入下手自延迟将近2分多钟,你抛杯茶回来它才开口。而代码智能体经常是这种几万Token甚至更长的上下纹,这种产品在RTX Spark上其实更加适合换称MOE模型。而16K以内的这种上下纹的短任务和问答,27B的Q4版本就很好用。第三个发现就是RTX Spark上用起来最舒服的其实还是MOE模型。这个和我们之前做的X86家Windows跑本地大模型的评测结论基本是一致的。用128G内存装下总参数大的MOE,每次只激活几币参数正好能够规避一些带宽的短板。千万3.635B A3B哪怕用BF16的精度,Decode也能达到36Token每秒。JMA4 26B A4B的Q4版本,prefile性能达到2400,64K输入首次只要33秒。所以追求速度可以选择JMA4,要想要原始精度的可以选择千万3.6。接下来咱们再看智能体场景,对于这台机器其实更加重要,因为它决定了真正干活的效率。我用的是Agent Perf做基准测试,并且和Agent Perf这个榜单上的其他硬件平台做了对比。首先我们再看千万3.827B Q4的结果。完成所有任务,RTX Spark用了19分钟。这个榜单里的M5 Pro和AMD的Helo都要用35分钟以上,所以RTX Spark快了差不多一倍。差距主要是在这个prefile性能。智能体的一大特点就是读多写少,要反复的去读代码读工具的结果,而prefile算力恰恰是Blackwell和CUDA的强项。另外DGX Spark是17.3分钟,比RTX Spark快10%左右。同一套架构有差别,其实就是笔记本的功耗和散热。5090只要4.9分钟,毕竟接近1.8TB每秒的带宽摆在哪,是RTX Spark的6倍左右。当然了,功耗也不是一个量级。这说明只要模型能够塞得近32G写存,而且你能够买到5090,那它依然就是本地推理的天花板。那我们换成M1模型千万3.635BA3B的Q4量化版本之后,整体的性能都提升了不少。那完整所有任务的RTX Spark只要8.2分钟,抵扣性能达到90Token每秒,比M5 Pro和Helo快了1.4倍左右。那榜单里的DCX Spark用的是Blackwell原生的NVFP4格式,能够跑到17.3分钟。这也说明用上自家的数据格式之后,还能再挖出更多的性能。那我还在这台机器上部署了现在非常火的视频模型,MiniMax H3,它在ConfiUI里的实现,调用了很多CUDA专用的融合算子,把硅仪化、位置编码、激活函数等等整合成一步来计算,省掉了很多中间来会搬运数据的开销,从而能够提升性能。不过MiniMax H3的BF16版本加上稳稳编码器和VAE,一共62G,5090放不下,只能用更低的精度。RTX Spark的128G内存就可以直接跑完整的精度了。那用过ConfiUI的朋友都知道,这个配置非常的复杂和繁琐,不过这其实也正好体现了本地智能体的好处。之前是先学会工具的使用再做事,现在只要想清楚你要做什么就行,而智能体可以自己去学习工具的使用。那我就告诉智能体,我想用MiniMax H3做一个人物替换视频,它自己就坑齿坑齿地把整个工具流都搭好了,各种线都连好了,这个就是它生成的结果。闪身步,浪子踢球,狗熊哆嗦毛,弄动框,弄动框,弄动,弄动框,弄动框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框,弄动,堵框。那生成U344×768的视频,闻声视频5秒用了5分32秒,老黄闪身步的6秒视频用了17分20秒。你觉得性能和生成视频的质量怎么样,能不能作为AI视频的生产力机器,可以在评论区说说。那我还对本地智能体的性能做了一些测试和体验,比如说我最常用的就是各种代码智能体,可以让它做代码的检查还有修复。现在其实本地模型处理大部分的软件代码已经非常流畅了,甚至还能去修改一天描述芯片硬件的RTL代码。比如说这里我就用本地智能体跑前问3.827B来检查一个数据包的交换模块。它会自己去便利RTL文件,定位问题,自动修改,速度稳定在每秒15个Token左右。像这种不着急,让它在后台慢慢改的任务,这个速度其实也是够用的。你去倒杯水回来,它就已经改完了一轮了。多智能体方面,我用4个智能体搭建了一个FPGA的开发流程。有的写设计,有的来做验证,还有的去调用维巴多EDA工具,去做综合,还有不居不限。还有的智能体负责烧录比特流到FPGA里,并且去控制它的运行。全部都在这台电脑里本地的跑通了。几年前有很多朋友是因为我的FPGA学习路线的视频来关注着我,没想到才过了三四年,AI基本就能接管这整个流程了。但是这其实并不代表这些知识不重要。AI能够把你的能力放大10倍,前提是你先得有那个1,你知道要做什么怎么做才能指对方向判断对错,把省下来的那些时间花在更有意义的事情上。我觉得这个才是AI对我们每个人真正的价值。我还做了多个智能体同时工作情况,相当于智能体的烤机测试。它考验的是负载压力很大的这种极限情况下,GPU,CPU,内存控制,还有内存带宽的性能还有条件。我就用这台机器测了1到6个智能体并发。从结果可以看到,在这个测试里,同时本地跑3到5个智能体比较合适,能够把整体的吞吐提升2.2倍左右。但是4个智能体同时工作的时候,像这里GPU的利用率只有82%,说明GPU在等待数据内存带宽已经成为了瓶颈。到6个并发的时候,整批耗时1200多秒,吞吐比一个一个排队跑还慢。这个其实就像两个车道的路,车少的时候多来几辆通信量更大,车一多就互相堵死了。所以对于智能体电脑来说,能同时养活几个智能体,比能够装下多大的模型更加实际。而答案很大程度其实取决于内存带宽。那英伟达这次芯片没法改,他们就做了一个很有意思的工具,叫做Pair,也就是个人AI路由。它能够识别同一个网络里,能参与计算的节点,然后根据各个节点的模型,以及当前的负载情况,来把智能体的工作请求,路由到合适的节点上进行处理。这个工具其实就非常适合处理多个本地智能体并发的情况。它和苹果里用的那种EXO还不太一样,它不是把解台电脑的显存和算力合并成一张超级的GPU,而是把不同的任务分配到不同的计算节点上,就像餐厅里的这种领位员,看谁有空,谁擅长,就把智能体的请求给分过去。更有意思的是,Pair支持macOS,这就意味着,我可以把我那台128G的M5 Max Macbook Pro,还有一个32G显存的5090台式机,还有这个RTX820皮记本,组成一个大的计算网络。我还用AI对Pair工具做了一些修改,把之前的路由模式改成能力感知模式,比如说让M5 Max处理更偏向长沙下文的复杂分析,然后用RTX5090承接高吞吐并行的审查任务,然后用RTX Spark做更多的本地数据处理,结构化整理还有控制类的任务。每次分发都会综合任务画像,模型能力和当前在图的任务数来进行评分。在这个技术上我做了一个新的6智能体的并发测试,其中两个被自动路由到M5 Max上执行,两个被路由到5090,还有两个在RTX Spark上本地执行。这样和把任务都放在RTX Spark上本地来相比,这种混合调度方法让这批任务的总时间缩短了68%,所以Pair其实相当于给原本分散在不同电脑上的智能体,提供了一个统一的本地推理服务入口。基于它其实可以构建很多很有意思的场景,比如说做芯片验证的时候,可以让多个智能体阅读同一份设计代码,然后各自生成测试用力和断言,然后连着IPG的智能体去做硬件测试,算力更强的去做覆盖率分析,然后多个智能体去自动调整下一轮的测试方向,自己去寻找还没有被触达的状态空间。所以因为不只是想要你的笔记本来跑AI,还希望它成为个人AI计算网络的入口。这样一来,单台电脑的算力和内存容量就不再是唯一的产品竞争力,多台设备之间的算力调度,软硬件兼容,还有开发体验,也会成为非常有意思的探索的方向。RTX Spark毕竟还是一台能打游戏的AI电脑,作为一个很久不玩游戏的人,我用它玩了很久的NBA 2K27,主要是为了测试,都是为了工作。2K27它支持英伟达DLSS5技术,也就是说它能够先渲染低分辨率的画面,然后再用AI重建到高分辨率。它还加入了真生成还有光线重建。10月13号就不久之前英伟达做了一次大的更新,DLSS5的全新的AI模型运行速度提升了两倍,模型规模下降24%,显存占用降低了20%,开启DLSS5之后你可以看到球员面部的细节和光有效果会变得更加真实,在我这台电脑上游戏运行的时候帧率会基本维持在140帧左右。这个也让我想到十几年前上大学的时候,在宿舍里大家一起玩2K8,摄友又姚明,我又麦迪,用火箭队打了好几个赛季。那个画质和现在的这种画质相比简直辣的一批,球员的脸都是糊的,可是我们也不知道一起熬了多少个晚上。现在电脑成了生产力工具,成了我们挣钱养家的工具,但是当年用电脑打游戏的快乐,我到现在还都记得。从2K8到2K27,画面清晰了几十倍帧率翻了好几番,可是当年让我们快乐的其实本来也不是画质,而是一起玩游戏的那几个兄弟。技术一直在往前跑,他把曾经需要一整个机房才能干的事塞进这么一台笔记本里,把曾经需要一个团队才能干的活,交给几个智能体去做,然后把省下来的时间还给我们,让我们去做那些只有人才能做的事情。可能这就是技术进步的意义吧。再回到开头的问题,英伟达做RTX Spark到底是为了什么?总结这些内容,老黄的目标至少有三个。第一,就是拿到PC架构定义权。过去英伟达只是PC里的发动机的供应商,这次他想当整车厂,拉上微软、ARM、联发科还有众多的OEM厂商,做一种不同于X86加独显的Windows PC架构,把系统的设计权和产业链的话语权都握在自己手里。第二,就是继续巩固CUDA的生态壁垒。从数据中心到笔记本,不管是AI推理跑在云端还是本地,只要用的是CUDA,生意就还在英伟达的收入。就像MiniMax H3,在CUDA上开箱即用,换个平台就得迁移,这种顺手就是最深的护身口。第三,也是最长远的,就是做智能体AI时代的个人计算平台。AIPC重点正在从本地跑大模型转向智能体的全面爆发。GPU依然很重要,但是CPU、内存、操作系统,还有智能体运行环境怎么去配合?本地很多智能体怎么去协同?怎么通过像Pair这样的工具,让多个计算节点接力把任务完成?这些都是英伟达希望去掌握的。当然公平地说,RTX Spark这个产品其实并不完美,性能和友商,甚至是自家之前的很多产品相比都没有明显的优势。内存带宽更是不能否认的短板。所以我估计下一代产品英伟达肯定会在这方面去入手把芯片能力给提起来。在我看来,这个产品是和那些既需要Windows和CUDA生态里的庞大的软件组合,又需要用智能体AI放大和加速自己的专业能力提升工作效率,还要平时能打打游戏的人。20多年前,英伟达靠Windows加X86的庞大生态把GPU生意给做了起来。后来他又凭借CUDA在AI数据中心里建立起了几乎无人能撼动的优势。现在故事反过来了,因为大家开始用GPU和AI能力反过来推动Windows来摆脱对X86几十年的依赖。RTX bug是第一步,能不能走成?其实不全看芯片有多强。更要看智能体会不会真正走进每个人的日常。个人电脑刚刚耐生的时候说的是一个人拥有一台电脑。而在智能体时代,它可能变成一个人指挥一群智能体调度好几台电脑。谁能定义这种新的方式,谁就拿到了PC下一个20年的入场圈。那你觉得RTX bug有没有像老黄说的那样改变了PC?你会不会为了本地智能体买一台这样的电脑呢?还是觉得云端其实就够了呢?也欢迎在评论区告诉我。那以上就是本期视频的全部内容。我是芯片公众师老师,我们下期视频再见。