重新定义电脑！128GB统一内存的RTX Spark，到底能干啥？
一句话概括：视频实测搭载 NVIDIA RTX Spark 的笔记本，展示其 128GB 统一内存在本地大模型、智能体和 AIGC 任务中的表现，并与 MacBook Pro M Max 对比，认为它更适合需要大显存和 CUDA 生态的开发者。
-
硬件与内存设计：测试机为联想 YOGA Pro 15 RTX Spark，搭载 6144 核 GPU、20 核 CPU。CPU 和 GPU 通过 NVLink C2C 共享 128GB LPDDR5X 统一内存；系统默认显示 64GB 专用 GPU 内存、46.5GB 共享 GPU 内存，可在 NVIDIA App 中把专用内存比例调高至最高 96GB。GPU 内存不足时会占用共享内存，因此大模型能运行，但会减少系统其他用途可用的内存。
-
算力与功耗取舍：GPU 规模介于 RTX 5070 Ti 与 RTX 5080 笔记本 GPU 之间，CUDA 生态是其主要优势；内存带宽为 300GB/s，约为 M Max 的一半（614GB/s）。为了在笔记本中运行，芯片功耗压到 80W。Geekbench 7 GPU 得分为 184646，约在 RTX 5060 与 5070 笔记本之间；图形性能强于 M Pro，但与 M Max 仍有差距。CPU 性能则明显弱于 M Max 和 M Pro。
-
本地大模型测试设置：使用 Q4 量化的 Qwen3.8 27B 多模态稠密模型，运行约占用 RTX Spark 36GB 显存。测试通过 llama.cpp 提供服务端，在 RTX Spark 和 M Max 上进行 Speedbench 与 Agent Perf Local 测试。Speedbench 使用编程、写作、数学等 11 类真实问答，避免用随机词元测试导致吞吐速度虚高。
-
模型推理速度对比：Speedbench 中，两台机器的提示词预填充速度都约为 200 token/s；RTX Spark 解码速度为 30 token/s，是 M Max 的 1.6 倍，平均延迟低 31.5%。Agent Perf Local 重放智能体任务对话轨迹，包含 8 个任务、168 轮交互，总输入约 249 万 token；RTX Spark 用时 17.51 秒，M Max 用时 26.29 秒。RTX Spark 的优势主要来自持续解码，智能体场景下输出速度达到 35 token/s，整体任务约快 1.5 倍。
-
测试结果受推理后端影响：上述对比统一使用 llama.cpp，但它并非专为 Apple GPU 优化。换用面向 Apple GPU 的 MLX 后端（稿中音译为“Splash”）重测，M Max 在两项测试中都反超 RTX Spark，尤其解码更快。视频因此提醒，推理速度不仅取决于硬件，也取决于软件后端优化。
-
智能体处理真实工作：通过 llama.cpp 启动本地模型，再在 WorkBuddy 模型管理页面添加自定义模型，填写本地接口地址和模型名称，即可让智能体调用本地模型。模型分析频道 177 篇稿件、共 118 万字，耗时约 8 分钟；随后调用前端开发专家生成可视化网页，耗时 5 分多钟。另一次根据会议记录生成项目介绍 PPT，耗时近 20 分钟，成品完成度超出预期，而且可在飞机上离线完成。
-
调用电脑工具与自主补全任务：NVIDIA App 和 Broadcast 开放了可供智能体调用的接口，智能体可通过 MCP 配置电脑设置。测试中，WorkBuddy 被要求配置客户会议直播场景，却没有收到背景图；它自行安装绘图所需的 Python 库、绘制书房背景图，并将其设置为摄像头背景。
-
本地生图表现：使用 ComfyUI Desktop 中的 FLUX.2 Dev 官方工作流，生成 1024×1024 图片并各跑三轮。针对 Blackwell 架构优化的 NVFP4 模型占用 36.7GB 显存，平均每张耗时 46.17 秒；更通用的 FP8 模型占用 53.6GB，平均耗时 61.11 秒。视频测试的 M Max 所用 MPS 后端不支持运行 FP8 权重模型，反映出 NVIDIA 在相关生态支持上的优势。
-
本地视频生成：使用 MiniMax H3 生成一段 480p、10 秒的视频，主题是马斯克的 Roadster 从火箭分离并降落到火星表面。RTX Spark 几乎占满 128GB 统一内存，耗时约 14 分钟；M Max 使用相同模型和工作流，耗时接近 1 小时。
-
游戏体验与兼容性：在 2560×1440 分辨率、开启 DLSS 3 倍帧生成和光线追踪的条件下，赛博朋克 2077、《永结无间》和《实质存在》平均帧率均超过 130 帧，整体游戏性能约为 RTX 5060 水平。RTX Spark 基于 Windows ARM，部分多人游戏仍在适配；已适配的包括《原神》《我的世界》和《CS2》，视频还提及《毁灭战士：黑暗时代》等原生支持游戏。
-
结论与适用人群：RTX Spark 的 CPU、游戏性能和内存带宽并不占优，但 128GB 统一内存、CUDA 生态和本地 AI 工作流能力，使它能运行普通显卡笔记本难以承载的大模型，并完成智能体、图片和视频生成任务。视频认为它更适合喜欢折腾、开发本地 AI 的用户，而不是以游戏为主要用途的消费者。
▸ 原始转写文字稿（4578 字符）
4万块的AI笔记本一上线就被抢空。RTX Spark，这玩意儿到底有谁在买?黄人勋今年发布RTX Spark NEX这颗SoC芯片的时候说,定为达有重新发明的电脑。现在搭载了这颗超级芯片的RTX Spark轻薄笔记本,就在我们手上。这次的RTX Spark史无前例地集成了CUDA生态、Windows系统,以及128G统一内存。这个配置和价位,我第一时间想到的是另一台同样拥有128G统一内存的高端电脑。MacBook Pro M Max。相比半路出家的苹果,一手缔造了AI计算平台的英伟达,无疑拥有更加纯正的AI血统和生态。那这台RTX Spark真的能带来颠覆如今个人电脑的体验吗?这次我们就围绕本地AI在智能体、AIGC创作方面的表现,带大家全面体验一下。我们手上的这台是联想的YOGA Pro 15 RTX Spark,拥有6144核GPU、20核CPU的满配版NEX。这次RTX Spark的统一内存方案和我们前段时间测试的DGX Spark如出一辙。GPU和CPU通过NVLink进行C2C连接,给访问同一组128G LPDDR5X统一内存。打开任务管理器可以看到,现在专用GPU内存是64G,共享GPU内存是46.5G。通过NVIDIA App我们可以调节专用GPU的占比,最高可以到96G。在实际使用的时候,占用GPU的资源会优先使用专用GPU内存,然后才会外溢到共享的内存区域。这样虽然会挤占CPU和其他应用可以使用的系统内存,但那些需要大显存的AI模型就可以一展全角了。光看算数执行代员的数量,RTX这颗6144核的GPU,规模介于RTX5070Ti和5080笔记本电脑GPU之间,比同级别笔记本的M Max规模更大。在大模型更吃并行算力的预填充阶段,似乎优势更为明显。但到了内存带宽上,RTX Spark 300G每秒的带宽就只有M Max 614G每秒的一半了。而且为了把这颗超级芯片跑在笔记本上,RTX Spark把功耗压到了80瓦。能效上有所提升,但是峰值性能被压低了。不知道大家怎么看这个取舍呢?跑分上,CUDA加速下的Geekbench 7 GPU跑到了184646分,水平介于RTX5060和5070笔记本电脑之间。从Geekbench 7 GPU和3D Mark Steel Nomad分数来看,功耗压低后的RTX Spark和M Max还是有一段差距,但强于M Pro。至于CPU性能,RTX Spark就全面弱于M Max和M Pro了。这也是我觉得这次RTX Spark最大的短板。不过说到本地AI,RTX Spark的腰杆子一下子又停起来了。结合CUDA的推理加速生态,RTX Spark和M Max,在AI方面露死谁手还尤未可知,咱们直接实战见真章。我们测试选用的本地模型是Q4量化版的千问3.8 27B。这是一个多模态稠密模型。官方榜单部分能力甚至可以对标Cloud Opus 4.6 Max。运行起来大概会吃掉RTX Spark 36G显存。一般的Geekforce RTX笔记本电脑显然是撑不住的。为了控制变量,我们统一采用LAMA CPP作为服务端。在RTX Spark和M Max上进行Speedbench和Agent Perf Local两大轮测试。Speedbench这个测试说来也有意思。以前业界测模型速度有个坏习惯,图省事拿随机词源当输入。被Speedbench的论文指出这么做会让模型吞吐速度严重虚高。于是才有了涵盖编程写作数学等11类真实问答的测试榜单。麻烦是麻烦点,但测了不烧心。从结果来看,英伟达和苹果两家在处理提示词时的预填充速度相当,都在200Token每秒左右。而解码解断RTX Spark达到了30Token每秒的输出速度。是M Max的1.6倍,平均延迟也比M Max低了31.5%。下一项Agent Perf Local则更考验模型在Codex这样的智能体中真实实用的性能。它把SWE Bunch和Pinch Bunch中智能体挤着问题的真实对话轨迹录了下来,再重放给本地模型,默认跑8个人物168轮兑换,总输入约249万Token。毕竟咱们现在用AI都是接入智能体执行任务了。相比单轮对话,智能体每次输入的上下文更长,而中间输出的步骤更短。所以和前面的SWE Bunch比起来,Agent Perf更能反映实际场景下的模型性能。8轮任务跑完,RTX Spark耗时17.51秒,而M Max耗时26.29秒。有意思的是,RTX的优势并不主要来自更快的首次响应,而是来自后续的持续解码。对于智能体这种每轮对话只需要调用一两条命令,不需要一下子输出太多字的模型使用方式。RTX Spark的解码输出速度提升到了35Token每秒。这个优势在多轮对话中不断累积,最终让RTX Spark完成任务的速度比M Max快上了近1.5倍。不过Mac这边毕竟是拿Lama CPP控制变量测的,所以也不能说RTX Spark就吊打M Max了。我用Splash这套专门为Apple GPU优化过的推理方案,又跑了一遍这两个测试。这次M Max直接将大局逆转,两个测试速度都快过RTX Spark,尤其是在解码阶段。看来专门优化之后,M Max内存带宽上的优势才能彻底体现出来。看完推理效率,我们再把千万3.8 27B接到智能体里。看看如今的本地AI到底都能干些啥。我们选择接入的智能体是workbody,安装门槛相对低一些。先启动Lama CPP服务端加载千万模型,然后在workbody模型管理页面添加自定义模型,填入本地接口地址和模型名称,就可以在workbody调用本地模型了。最近我琢磨出了一套打数理论,甭管有用没用,先把生活中的所有数据都记录下来,AI自己就能发掘出有价值的规律。但很多数据不仅量大而且敏感,交给云端模型我还是挺翻处的。这次刚好拿本地AI试试。我先让千万3.8 27B去读我们频道过去的所有稿子,找一找选题规律。这里总共有177篇文章合计118万字,让付费AI跑那还是得心疼一下。不过既然是本地AI那可就使劲祸祸了。RTX Spark上这个常任务大概花了8分钟,说实话和我拿Codex跑花的时间差不多。分析结果也和我人工总结的几乎一致。现在我们频道的核心选题就是AI,其次是硬件和芯片。选题切入角度、文案结构之类的规律也都有设计。我又顺手调用前端开发专家把结果可视化了一下。这次更是5分多钟就完成了,网页看起来也挺像样的。不过最让我震撼的还是下面这件事。最近我们团队在筹备内部的游戏开发大赛,飞机上我还在琢磨怎么把这个项目介绍清楚。刚好我带着这台RTX Spark就把之前的会议记录发给它,试试能不能做个PPT出来。结果Workbody跑了将近20分钟,真的把这个PPT做出来了。而且完成度惊人的高。要知道这可是在完全没法联网的飞机上,用一个本地AI跑出来的这样的结果。这个效果确实是大大超出了我的预期。而且为了贯彻这台RTX Spark的AI属性,NVIDIA还给自家APP和Broadcast工具都开放了供智能体调用的接口,把APP里的提示词复制给智能体。智能体就会自动配置好相应的MCP服务,让AI可以直接修改电脑设置。这里本地AI又小小的惊到了我一下。接入NVIDIA Broadcast之后,我本来想让AI帮我配置一个用来开客户会的直播场景,但是忘了把相应的背景图发给它了。结果Workbody自不自开干了,发现没有背景图,它居然自己下好了用来绘图的Python库披露,然后手动画了一张专业的书房背景图,替换到了摄像头背景里。亲眼看到这种自主解决问题的能力,发生在一个纯本地的模型和智能体上,说实话这有点震惊叹座了。看完了本地大模型的表现,我们再来试试RTX Spark在本地AIGC上的能力。生图我们选用的是Conf UI Dex Top里的FLAX2Dive官方实力工作流,分别测试了NVFP4和FP8这两个精度的模型。在相同参数设置下各跑三轮,每轮升成一张1024×1024分辨率的牛来风格图片。其中NVFP4是英伟达面向Black Wild架构专门优化过的格式,这个精度的FLAX模型跑起来会占用36.7G显存,平均生图时间是46.17秒,而更通用的FP8精度模型则一下持掉了53.6G显存,平均生图时间飙升到了61.11秒。看来专门优化过的NVFP4对性能提升还是挺大的。本来我想在MMAX上也对比测试一下,没想到苹果的MPS后端干脆不支持运行FP8权重的模型。查了下GitHub,MRX社区直到今年仍有专门请求增加原生Flow 8支持的帖子。看来在生态支持这块,英伟达小声一轮。这样也没完,到了视频生成,我们测试了用MiniMax H3生成一段10秒的480P视频。主题是马斯克的Rodester从火箭上分离,降落到火星表面。跑这段的时候,RTX Spark上的128G统一内存几乎全部沾满,总共耗时14分钟。说实话,两年前我是怎么也不敢相信这种效果的视频,居然是可以本地生成的。轮到MMAX采用完全一样的模型和工作流,这段视频竟然跑了快一个小时。不管怎么说,AIGC这块的英伟达是扳回一局了。最后,我们来看看RTX Spark在游戏上的表现。在分辨率2560×1440,打开DLSS三倍真声城和光追的情况下,赛博朋克2077、《永结无界》和《实质存在》这三款游戏的平均阵率都跑到了130帧以上。像《实质存在》我第一次玩,光追开启下的光线反射效果真的挺惊艳的。同样原生支持RTX Spark的游戏,还包括007出路锋芒、《毁灭战士黑暗时代》、一代这些单机大作。其中NBA2K27还支持DLSS5。多人游戏这边,由于RTX Spark是Windows ARM架构,所以像英雄联盟、三角洲行动、明朝这些多人经济游戏还在适配当中。已经适配的包括《原神》、《我的世界》、《CS2》等。虽说RTX Spark的游戏性能算不上多钱,差不多就是5060的水准,但平时用来解解馋也足够了。毕竟大家也不会买这么台128G统一内存的笔记本电脑,专门用来打套戏吧。总的来说,如果你是喜欢折腾的开发者,这台RTX Spark能带来的想象空间还是相当巨大的。24年的时候我就在鼓道本地AI,当时想要在笔记本上实现一个能自己抓新闻、查资料的本地AI助理,实在是相当费劲,动不动就暴险存闪退。当年尝试用本地模型生图生饰品,效果也是一言难尽。谁能想到仅仅两年之后,本地多么泰模型、智能体和AIG4模型,就都有了质的飞跃。这次在RTX Spark上配置本地模型,全程没有遇到什么特别困难的地方,而模型的实际表现也屡屡让我觉得本地AI居然都到这个程度。也许是模型能力膨胀的太快,回过头来看,如今本地AI的能力,或许都已经达到甚至超越了当年GPT4的水准,而这样的模型已经能够做到稳定的跑在一台轻薄笔记本上。处理文件,制作PPT,生成图片视频,自动执行一系列专业任务,甚至还能留出足够的性能支持你在电脑上干其他事情。或许呢,这就是黄人群在说出那句我们要重新发明个人电脑式想传达的场景吧。好了,今天的视频就到这了,大家要是觉得不错,欢迎点赞收藏关注。我是林一,咱们还是下个视频见。
