观观市 登录
← 返回视频简报
司波图 已完成

128GB“显存”＋CUDA＋200G网卡，这块“赛博金条”到底值不值？——DGX Spark 自费深度评测

2026-10-24 07:30 · 时长 27分9秒 · 模型 gpt-6-luna · 在 B 站打开 ↗
#本地AI #AI硬件 #大模型推理

128GB“显存”＋CUDA＋200G网卡，这块“赛博金条”到底值不值？——DGX Spark 自费深度评测

一句话概括：视频通过实测 DGX Spark 与 AMD Strix Halo 小主机，说明 Spark 的价值不在单纯的推理速度，而在于 128GB 统一内存、CUDA 生态和 200G 高速互联组合起来的本地 AI 能力；是否值得购买，取决于具体工作负载。

  • 评测对象与定位：UP 主自费约 3.6 万元购入 NVIDIA 原厂 4TB DGX Spark。它体积小、做工和噪音表现不错，但本质上是运行 DGX OS（Ubuntu 定制系统）的微型 AI 服务器，而非普通日用电脑。视频提到，后来价格一度涨到接近 5 万元。

  • 主要硬件规格：Spark 使用 GB10 SoC，包含 10 个 Cortex-X925 大核和 10 个 Cortex-A725 中核；GPU 基于 Blackwell 架构，拥有 6144 个 CUDA 核心，纸面规格约相当于 RTX 5070 档。整机配备 128GB 统一内存、4TB SSD，内存带宽约 273GB/s。接口包括 4 个 USB-C、万兆 RJ45、HDMI，以及两个 200Gbps QSFP56 网口。

  • CPU、GPU 与关键短板：CPU 单核性能约在 Apple M3 档，多核性能接近桌面 8 至 12 核 x86 处理器；GPU 算力明显强于 Strix Halo，但远不及 RTX 5090。Spark 的核心限制是内存带宽：128GB 容量适合装大模型，却不代表解码一定快。对带宽敏感的稠密模型，生成速度未必比便宜很多的 Strix Halo 快。

  • 普通本地模型表现：测试了 Qwen 3.8 7B 和 Qwen 3.6 35B-A3B 的 4-bit 量化版本。7B 模型解码表现一般，开启 NDP 后仍只有十余 token/s；35B-A3B 是 MoE 模型，每次只激活部分参数，Spark 的解码和长提示词 Prefill 表现则更有优势。Spark 可使用 llama.cpp、SGLang、vLLM 等引擎；Strix Halo 在部分引擎上的架构适配和优化仍不成熟，因此实测也受软件生态影响。

  • 针对大内存设计的模型更能体现 Spark 的价值：Qwen 3.8 FlashNext 总参数量约 180B，其中主模型约 125B，另有约 51B 的大型查找表，模型很吃内存容量，但不需要每生成一个 token 都读取整张表。Spark 与 Strix Halo 单流解码都在约 28–30 token/s，Spark 的短提示词 Prefill 约 900 token/s，约为对照组的 1.5–2 倍。

  • FlashNext 的不同推理方案取舍明显：

    • Spark 使用 SGLang 时，单流约 30–40 token/s；短提示词、多路并发总吞吐约 142 token/s，上下文可扩展至 524K。
    • Strix Halo 使用专门优化的 HaloGen 后，单流约 39 token/s；开启投机解码后，10 组提示词平均约 59 token/s，部分可超过 60 token/s。Prefill 可达约 1600–1700 token/s，并发总吞吐约 128 token/s，上下文可到 100 万。
    • Spark 使用 EXL3 和投机解码时，特定代码测试单流可达约 79 token/s，但 Prefill 和并发不如 SGLang 或 HaloGen；中长提示词处理约慢 2–3 倍。
    • Spark 使用 TensorFold（社区 ZIG 手写 kernel、直接加载 MLX 权重）时，写作类约 80–110 token/s、代码约 48–81 token/s、文档约 47–54 token/s，Prefill 约 1250 token/s。上下文从 1K 扩至 240K 时速度下降有限，但 8 路并发总吞吐约 59 token/s，明显低于 SGLang 的约 163 token/s；速度也很依赖投机解码。

  • 与 Mac Studio 的比较：视频没有实机对测，而是引用公开数据：256GB 内存、80 核 GPU 的 M5 Ultra 跑 FlashNext，单流约 57 token/s；开启投机解码后约 90–100 token/s。Mac 的优势是更大内存并兼顾日常工作，Spark 则以较低入门预算、CUDA 和可折腾的 AI 软件生态见长。不能只用单流解码速度判断整项任务的完成时间。

  • 图像与视频生成：以 ComfyUI 的 MiniMax H3 视频生成为例，视频越长，生成耗时显著增加；两百万像素、10 秒视频会生成 240 帧以上，对 32GB 显存设备压力很大。Spark 借助 128GB 统一内存可以跑这类规格，并可使用社区针对 GB10 优化的工作流降低耗时；在该测试中，Spark 的原始工作流速度不如部分显卡，但调优后体验更实用。与 Strix Halo 相比，同一工作流下 Spark 约快近 3 倍，主要原因是算力差距而非带宽：测试算子中，Intel 8 的矩阵乘法约快 2.3 倍，BF16 约快 2 倍，注意力算子差距更大。若主要需求只是生图或生视频，万元级 32GB 显卡往往更划算。

  • 日常使用与游戏：Strix Halo 使用 Windows，软件兼容性和游戏体验更适合普通用户；Spark 使用 ARM 架构 Linux，需要一定部署基础，部分软件可能不兼容。通过 Steam ARM 版、FEX 指令翻译层、Proton 和 DXVK，Spark 也能运行部分 x86 Windows 游戏。赛博朋克 2077 关闭光追时，2K 高画质平均约 52 帧、1080p 约 57 帧；开启帧生成后分别约 83 帧和 107 帧。主要瓶颈是 CPU 指令翻译，游戏兼容性和手柄支持也有问题。机器满载功耗约 200 多瓦，运行较安静。

  • 200G 网卡是 Spark 的重要差异点：Spark 使用 NVIDIA ConnectX-7 网卡，支持硬件 RDMA，可通过网络直接访问另一台机器内存；实测延迟约 1.47 微秒，接近本地 GPU P2P 的量级。双机可用一根 DAC 铜缆直连，无需交换机，能通过张量并行运行单机装不下的模型。视频引用社区数据：DeepSeek V4 Flash（约 284B）双机推理，关闭投机解码约 30 token/s，开启后常见约 45 token/s，条件合适时可到 78 token/s；4 台机器并发聚合性能约 180 token/s，但需要额外购置约万元级的 200G 交换机。Strix Halo 缺少硬件 RDMA，USB4 软件方案延迟和带宽表现有限，多机张量并行效率较难保证。

  • 购买结论：DGX Spark 适合明确需要本地部署大模型、128GB 大内存、CUDA 生态和高速多机互联的用户，也适合需要在小体积设备上运行大模型服务或高显存 AI 工作流的人。缺点是价格高、带宽有限，并且需要 Linux 与模型部署经验。只想体验本地模型，可考虑门槛和价格更低的 Strix Halo；主要追求模型生成速度或图像、视频生成效率，独显主机通常更划算；还要兼顾日常工作，则可考虑大内存 Mac Studio。

▸ 原始转写文字稿（10322 字符）
Hello 大家好 我是你们小伙伴Sport2那我身边的这台是我买过的价值密度最高的一台小主机NVIDIA的DGX Spark正确来说这应该算是一台微型的服务器Spark这台机器其实已经出了一段时间了甚至最近还推出了减配的64G版本那我应该也算是观望了很长的一段时间实在是下不了狠心前段时间也是看到5090涨价了心想这个Spark价格还没有太大的一个变化那就咬了咬牙 花了三万六千多分六期免息带票把它给拿下了那这是一台4T的原厂版本 金龙下了单那是的 没错现在官方的标价要比最早官宣的时候3000美金起伏的价格硬生生涨了五成多那更让人伤心的是本来我是咬碎的这个后牙槽直接下单了两台的但接下来的后两天我又觉得这个头太大了退了一台又过了一个月 它的价格涨到了将近五万对这样的一台机器很多人心里肯定会有一个疑惑拿三万多块钱去买台这样的机器我拿去充各大公司的这个API接口难道不香吗或者说我家的钱直接买一张满血的RTX5090那不好吗在今天这个AI圈大显存就是正义的一个时代那这台机器真的能够算作是新时代的一个赛博金砖吗今天我们就来看一下这一视频我会把它最主要的对手隔壁的128G统一内存的StreetHero小主机拿来跟它对比一下而且这个视频完全的自费 没有产外因素这样成本爆炸的视频换你们一个免费的赞我觉得不算过分吧好 那你们都点赞了对吧我们直接去片三万六千块的小手机这也是我买过最贵的一台电脑相信大家肯定也很好奇这后护了一台钞票换来的开箱是怎么样的一个体验呢包装其实就是全六P纸的一个环保风口对笨手笨脚的我来说呢这个开箱并不算顺利啊翻开上概 机器的主体就在里面尺寸给人感觉非常小巧但整机的重量却非常压手加上视角尖尖的造型真的有那么一些赛博金砖的感觉虽然市面上GGX SPA有很多品牌的换颗产品价格也许甚至还能更便宜一点但我最后还是咬牙选了原厂的版本那非常重要的一点就是这全身金山上的外壳机器的正面还安排了一块复活快乐球同款的钢速网造金砰口不得不说啊这个老黄还是懂审美的那这套设计放在座位上确实相当的贵气高档机器用的是外置电源通过Type-C供电那没有作用的内置呢略微让人有点失望但这台机器其实从重量来判断内部应该是已经没有任何一点多余的空间了电源开关位于机器背面的角落接口给了四个Type-C一个万兆的RJ45网口以及一个HDMI但最硬核的肯定就是这两个200GB的QSFP56接口那关于这两个企业机接口到底能够干什么我们后面再来详聊关键的东西看完那我们来摸一下它最核心的配置这颗GV10的芯片这个SOC里面塞了10颗X925大核和10颗A725中核虽然X925的单核绝对性能确实是比不上隔壁高通最新一代的Orient架构但你架不住的是这台SPOT它的数量管购啊直接拉这个核心数往死里堆除了处理器 DJX SPARK整机还直接标配了作为最大卖点的128G的统一内存以及4T的过代准储顺带一提这个4T硬盘确实就是原版SPARK的一个标配所以在电商平台上它看起来会比其他品牌的GP120换客机更贵一些观看纸边参数可能没有概念那我们直接来看GIG BENCH7的一个实测跑分它的CPU原生单核性能大概处于苹果M3芯片这一档而多核性能基本能够摸到桌面段8-12核X86处理器的屁股当然这个性能比起满确版的Street Halo16个大核还是要弱上一些GP120上的GPU核心基于全新的Blackwell架构那拥有整整6144个扩导核心简单来说它的GPU直面规格大概等于一颗RTX5070比起隔壁同样是大显存APU的AMD Street HaloGP120在跑AI的实际算子上算力是要强上一截的当然这个GPU在纯算力方面还是没有办法跟5090碰瓷那这也算是预料之中而SPARK身上其实更致命的一个短板在于这个显存的带宽即便这台机器给了128G的这个超大统一内存容量但它使用的是LPDDR5X的内存规格显存带宽被卡的死死的按宽宽高称只有273GB每秒那这个速度其实跟隔壁的Street Halo就差不多了而Street Halo的价格只有SPARK的6成多在目前的这个AI圈子里面很多人认为决定大圆模型的这个推理性能只有显存的带宽如果按照这个理论的话那这台机器的推理性能估计还挺难看的但这个模型跑得快快真的就只看带宽吗我们接着往下看大家看我这个造型都变了就知道事情不简单了对吧没错因为设计的这个内容和环境变化实在是太多太砸太快那这一张呢我们就先来看一下大圆模型的测试先交代一下测试条件SPARK这边我们跑的是它原装的DGX OS系统大模型推理可用的引擎呢主要是有三套Lama.CPPSGLand以及这个VLM毕竟有老皇家的这个Cuda在一般模型的场景三套引擎呢都能够发挥较为完整的性能对比组的这个Street Halo呢我们装的也是Linux但对比场景用的引擎则主要是Lama.CPP那为什么不用其他两个呢等一下我们会说到首先我们还是来看一下目前本地部署比较热门的千蚊3.8 7B和千蚊3.6 35B A3B模型为了尽可能保证测试的可比性两边我们使用的都是4比特量级的量化版本不过具体的这个量化格式会根据平台和推理引擎有所区别具体可以看一下我们画面的标注说实话这两个模型在SPARK上的表现只能说是中规中矩甚至称不上差强人意尤其是R17B模型的这个Decode减码性能不开NDP只有10个投稿出头而开的NDP也就是R167甚至比不上几千块钱的独显这主要还是受限于SPARK的内存带宽它虽然有128G的统计内存但带宽却只有273GB每秒对R17B这种仇密模型来说单路解码往往吃的是带宽所以即便SPARK有更强的计算能力在这个场景下也很难完全发挥出来对比隔壁的Strake Halo在解码速度上也拉不开开打的差距而35B A3B这边就不太一样了它采用的是MV混合专家架构虽然总参数量也有35B但每次推理只会激活其中一小部分参数所以它对带宽和算力的需求结构都发生了变化所以同样在拉马中SPARK的解码速度要比Strake Halo快上不少而另一方面在prefuel也就是输入内容的预处理阶段SPARK的优势还会更加明显一些尤其是输入长期的词或者是大段上文的时候它能够更快的完成处理从而缩短我们等待第一个字生成的一个时间而且我们测试下来在SPARK上使用VLM和SGLAND部署两款模型面对多用户并发请求的时候整体的吞吐表现也会比拉马点CPP更有优势而Strake Halo这边则因为这两个引擎并未对GFX1151架构的显卡进行优化所以会产生性能的下降我们也尝试过AMD面向高性能推理场景打造的A点框架不过在我们的测试版本和环境下GFX1151的这个适配和优化还不够成熟实测效果也并不算理想所以至少在现阶段Strake Halo想要发挥出理想的多用户频繁性能那软件生态确实还有很长的一段路要走接下来我们回到SPARK这边即便SPARK比Strake Halo更强但35V13V跑出这个成绩其实也是没有很特别的很多便宜很多的这个独显都能够达到这样的一个水准那我们到底该怎么发挥SPARK这128G统一内存的优势呢那最近还真有这么一款模型那就是新出的这个千问3.8 Flashnext那这个模型就非常有意思了它除了125B的主模型还有一张拥有51B餐量的巨型茶道表也就是说总餐数量接近180B而这张表的特性那就是非常的吃内存容量但不需要每次生存Token都读取整张表因此额外的这个带宽和计算开销相对有限诶这不就巧了吗SPARK恰好就是内存容量大但带宽相对受限所以这款模型啊简直就是为SPARK这种统一内存设备量身定制的一款那实际跑起来表现又怎么样呢我们把它俩拉到同一个起跑线上同一个模型同一份社区量化包结果也非常整齐啊那就是395单流生成是28Token没表左右而SPARK这边呢也就是将将摸到了30唯一拉开差距的是这个prefuel短提示是SPARK跑到了将近900而395这边则只有500出头SPARK Prefuel的速度整体快了1.5到2倍但这个成绩其实还没有把两台机器的潜力给挖完FlashNet是套新的架构通用引擎虽然已经能够跑但针对它的优化呢也还在快速的推进社区里面已经有人动手把那张几十GB的查找表放到了NVN1上按序读取再配合专用的算子和头级解码给这里一把28G的机器捧出了更多的发挥空间SPARK这边我们根据网上的设计方案实际部署了SGLand那真实提示词设计下来呢单流的速度大约可以维持在30到40tokens每秒而短提示词时路并发的一个场景总吞吐量也能够达到142个左右上下文我们可以扩展到524k那这套方案的优势呢也不只是自己聊天而是能够拿来处理长内容或者是给多人一起使用看到这里我本来觉得这个SPARK好像是要秒了395对吧结果隔壁的395又给我来了一个反转网上有一套大审专门针对SPARK HALO优化的一个引擎叫HALO GEN那换了它之后呢同样是这款模型不开头去解码它的一个速度就能够跑到39个tokens每秒左右而开启的时候10种提示词的这个平均成绩都到了59部分场以下甚至还可以达到60多而且提升的不只是这个土字速度它的preview性能甚至能够达到1600到1700多个tokens每秒发露并发总成绩量也能够达到128左右我们还尝试把这个上压纹一路拉到了100万那这个时候升升速度依然有50多个也就是说之前LAMA.CPP里面看着平平无奇的这个streethello换上一套针对它优化的引擎单流preview 长上压纹和断服务整个体验都上了一个台阶那至少在这款模型上我们不能再简单的把它当成一个软件支持不到位的这个大显存的核显了不过呢这次的反转还没有结束啊spot这边我们也找了一套exl3的方案用上了4.05 bpw的量化权重和投机解码在背方自带的代码测试里面单流直接我们可以标到79个tokens每秒左右又超过了这个halogen常见的60多当然这个成绩呢是比较吃提示词的换一组代码提两边可能就非常接近了而且散文的时候呢exl3反而会更慢一些它的劣势也非常明显了比起这个sglan和halogen它的这个prefuel和并发性能呢就没有这么强了我们再测试下来中长骑士词的这个处理速度halogen大概是它的两到三倍那为了这个公平起见呢我们这里再插一个小的反转啊实在是太多玩法怕漏了哪个给人喷这个偏坦395对吧针对签问3.8 flashnessdjxspot上呢其实还有另外一个方案叫tensorfold它是社区大臣用zik手写kernel的一个推移引擎中间不套pytorch那一层直接吃苹果的mlx权重格式所以它的大本营呢其实在mac上走metal后端苹果生态里面跑本营大模型的皮人应该对它是不陌生的同一个mlx4比特权重搬到spark上成绩是这样的写东西聊天之类语料能够到80110E左右的token每秒而且代码呢则是48到81运为这类文档是47到54prefuel则在1250上下是EXL3的1.8到2.9倍常常文也扛得住啊从这个1k拉到240k写作只掉了两成而代码呢则掉了接近三成但这里也有一个问题就是同一份权重它在mac上可以撑到1兆的上海文到了spark上则只能开到256k而且它的速度基本上是靠投机解码撑起来的关掉投机解码就只有30多了最大的问题是这个并发tensorfold在spark上8路并发解码速度合计只有59人均只剩每秒7个token那这一块Street LAN就要强得多了8路并发合计可以到163将近3倍所以它不完全算是一种更好的方案而是另外一种取舍一个人用着是很舒服的但多路贼一选一起上就会吃亏啊大力城给了这两台机器跑这些模型的资格但最后跑得快用起来舒服舒服还得看引擎有没有针对模型和硬件做好优化spark有库塔社区不断提供新的方案Street Halo这边也有Halo Gen这样专用的引擎把潜力挖出来所以买这类机器出来看硬件也得看有没有适合自己任务能够实际部署的这个社区方案好了接下来肯定有人要问这个Mac Studio那我们现在跟大家分享一个小故事那这个年初我本来是花了45,000订了一台256G的这个M3 Ultra的后来贤贵就把这个订单给取消掉了结果现在最近再来看同配置二手挂架基本上已经稳定在6万左右那我记得最高的价格应该在13-15万当时以为自己省了钱现在想想好像等早了那现在其实也有更新的M5 Ultra但这个大内存配置价格也让我暂时下不去手所以这一轮我们就没有Mac10机了我们拿网上公开的数据就简单聊两句那有用户在这个80核GPU256G内存的M5 Ultra上面用Lama跑Flash Next那四种提示试测下来呢不开头与解码的速度大概是57个Token然后开起MPP之后也能够达到90-100左右这个成绩确实是很强啊对我或者说很多人来说其实Mac Studio吸引人的地方是更大的一个内存容量还能够兼顾日常的工作而Spot这边呢则入手的预算相对低一些这个低一些现在也要5万了对吧然后它还会有Kuda方便接着折腾各种模型和工具各有各的价值不能只拿售价处以这个图字速度来计算那尤其是跑A卷的时候所以这个模型解码生成其实它还要读上下文调用工具 执行代码有些任务呢其实等待是花在这些环节上面的那图字快一倍呢并不等于整个任务的完成会快一倍所以模型装的下速度够用软件方案适合自己的工作这几样呢得一起来看那公平来说呢这个道理对于隔壁的Chello也是一样前面Hellogen的结果已经说明了针对主管模型如果你做好优化之后它的prefuel藏上要闻和并发也能有无数的表现如果你的需求刚好在这些方案的覆盖范围里面那台更便宜的395同样是值得考虑的前面我们聊这个大圆模型的这台机器主要吃的是显存容量和带宽但到了CompUI生图生视频上面情况又会有一些不一样了算力不够的话跑得慢那容量不够的话呢则直接报显存报错反倒是这个带宽速度它的影响并没有这么大我们以当下主流的这个视频显存模型minimax H3为例跑了四档规格的这个测试0.4招像素0.9招像素两招像素的这个5秒素材外加一个两招像素的10秒长视频那这个显存时间我们也放在屏幕上面视频的总伸数翻一倍那这个时长呢也差不多要涨三倍这个是由于Token数量决定的算法上的一个必然跟哪张卡并没有关系那这里有一个细节是值得单说的就是两招像素1080p的这个10秒视频它的生存帧数会到240帧以上那这个档位生存的一个显存占用其实对于32G的卡来说都算是非常紧张了像我们之前测过的Arc Pro B65跑这个规格32G显存直接就会占满还得频繁跟系统内存进行一个数据交换那Spark靠着它128G的统一内存硬是直接可以跑完接下来我们横向来看从规格上看呢这个Spark硬件的纸面参数大概是5070的那一档从我们实测过的这个成绩看来在多个档位上除了超规格的这个视频它原始工作流的一个生存速度比起Arc Pro B65还要慢上一些更是追不上B70和之前我们测过的这个1700HX看上去这块GP10的性能也不怎么样对吧但别忘了Spark本质上还是一个N卡的环境它能够吃到巨大的一个社区红利我们翻了一圈呢找了一套大脑专门位置块芯片做的工作流一共做了四层的优化具体是哪些大家可以看画面呢我们就不挨个念了要注意的是这个工作流其实依然是Buds部的完整驱照流程那用上调游的工作流之后呢生存的时间压到了之前的三分之二而且规格越大省得越多两照像素10秒这一档那光是注意力吸收化这一层就快了接近一倍当然我们要强调啊其他显卡也有对应的一些这个调游方案这里只是说明呢N卡的Spark它确实能够更容易的找到对应的解决方案而且最终的这个生存速度也非常可用那接下来我们再把老对手Straight Halo给拿过来那前面我们聊大模型的时候Spark的这个显存带宽并没有和Straight Halo拉开本质上的差距但一到了这个生视频呢区别就有点大了那同样是0.4照像素5秒的视频那同一条不含FPC加速节点的这个工作流Spark每一步的耗时是12秒而Straight Halo的每一步则要34秒也就是生存速度Spark是Straight Halo的接近三倍要知道Straight Halo这边我们已经把它调到当前能调的最好状态了也没有现成的加速站可以抄那这里我们也带大家来分析一下这个原因呢先来看这个带宽模型全中20多个G然后每一步都要读完一遍但按照两台机器250Gbps每秒左右的这个带宽折算呢100毫秒都不到就可以读完了其实跟每一步十几秒的这个计算量根本不是一个量级所以带宽在这里根本不是瓶颈真正卡速度的只有算力算力这一块我们拿X3实际调用的这个算子在两边都进行了实测Intel 8矩阵乘法差两倍三而BF16则差两倍出头注意力会差得更多一些所以每一步2.8倍的这个时间差就是从这里来的总理来说出图和声视频这件事上呢DGX Spot的绝对性能并不算顶尖但配合大内存还有能够直接抄的这个社区加速工作流这几样凑在一起啊还是让它的这个使用体验能够机身可投入生产的一个范畴但这里也要说一下我个人的观点那这台机器只能说是能够坚韧这件事如果说你花3万多块钱买这台机器只是为了做视频生成或者是图片生成这一件事的话我觉得一定是不划算的像R9700ARC Pro的B70这些万元级的32G显卡才是更加甜点的选择除了一些极限规格跑不了那日常干图片和视频生成体验和速度都要比Spot好上不少好了聊完前面这些比较硬核的生产力我们再来聊一些轻松一点的看看这个桌面和游戏之类日常使用的一个体验这方面肯定是AMD Street Halo最强的一环X86架构的Street Halo平台用的就是常规的这个Windows系统它有这极好的软件兼功性装好驱动和这个Steam就能够跑游戏日常办公也是常规Windows的水准尤其是这个游戏性能啊它也是不弱的属于是正位八景可以开超分2K分分率玩3A的一个水准对于刚入门想学AI或者是只有一台主机希望兼顾日常使用的人来说呢这条其实非常的关键那Spark呢它跑的是这个DGX OS底子是一个Ubuntu用的是定制的内核出场的时候系统给了一个远程访问的这个网页控制台浏览器打开就能够看机器的状态装系统的东西改一些基础的设置当然对于专业用户来说可能更常用的还是这个SX取的一个远程远接而它自带的这个图形界面本身就是Ubuntu的那一套啊在2026年的今天呢常用的电脑软件一般也都会有替代版本像微信飞书这些我们都能够找到但由于处理器是Arm的架构也会存在一部分软件没有适配和功能不完整的情况具体Linux上的一个日常电脑使用体验怎么样大家有兴趣的话可以去看专门的视频对于不熟悉Linux又不太想付出这个学习成本的小伙伴来说呢我建议大家还是另外配一台日用机来使用没有必要没苦硬吃啊你四万块钱的机器都买了加多一两千买一台日用机我觉得也不算过分对吧那这一个环节真正想跟大家聊的其实是Spark上的一个游戏体验啊虽然说对于AI服务器来说并不具备使用的价值但这个Arm加Linux的组合倒是让我试了一些挺有意思的东西纯粹是个人一个兴趣了解过最新的这个Steam Frame的这个小伙伴应该都知道Visa正在把SteamOS往Arm平台上搬还专门给SteamOS加了X86的一个转移层那这个方向的红利其实Spark也正好能够吃到我们在DGXOS上面装了Steam的官方Arm版本那实测呢也确实跑通了装游戏我们只要点一下想玩的时候我们只需要再点一下就能够进入游戏原理其实也并不复杂啊游戏还是Windows上的X86游戏我们先靠这个FVX把X86的指令集翻译成Arm能够跑的然后Windows的系统调用呢则由Proton来接管DirectX的这个图形调用呢则由它自带的DXVK转移成这个Valkan关键是这三层啊其实Steam都帮你给打包好了FVX就在官方的这个Arm版的Steam里面Proton呢第一次你进入游戏的时候它也会自动的下载我们拿赛格红2077测试了一下关闭光追的情况下高画质2K分约率平均有52帧而1080p则是57帧这两个数几乎是一样的如果是卡在显卡的进程上应该不会是这样的走势所以真正拖后腿的是被FX翻译的这个CPU运算部分翻译的损号我们用多款软件进行了测试那终于下来这个转移的性能损号大概在四层不过即便是转移啊那个游戏里面常规的真正程式依然能够打开的瓶颖在CPU但由于真生成是纯显卡车的一个补充它恰好绕过了这道坎那我们1080p打开真生成57帧会变成107帧接近翻倍而2K分辨率下呢52帧会变成83帧涨了接近6帧那这个成绩属于是3A游戏超分到2K分辨率的一个点点级别了足够满足一部分游戏用户的一个体验而且N卡的4倍增生成功能也能够开启帧数还能有进一步提升游戏是能玩的但其实也存在一些小坑啊我们也遇到了一部分手柄认不出比如说Xpress手柄走蓝牙就配不上也有个别游戏干脆就起不来那除此以外呢社区里面还有人碰过这个功耗锁室过了自动关机的问题简单用一下是没有太大问题啊那你真想让它来当这个游戏的主义机呢还是别指望啦总的来说对于熟悉Linux人来说呢DGX OS它能够满足日常使用没有问题那游戏呢也处于一个可以玩的状态吧而且它其实还有一个巨大的加分项那就是这台机器非常安静满载也只有200多瓦即便是高负载下风扇的噪音依然是很轻的好了都说到这里了大家可能会发现啊这台机器有一个东西我们是还没有聊到的那就是背后这两个200GB的这个网口那这是一块啊NVIDIA自家产的Connect X7的网卡这是硬件的RDMA然后标称呢是200个G走的是ROC的一个协议可以通过网络直接读写对端机器的内存它的这个传输延迟啊实测可以达到1.47微秒跟本地显卡之间的P2P直连是一个量级的所以通过这根网线连接两台机器跑章跟并行才有了性能的一个保障由于我暂时没有两台机器啊所以今天只简单通过了解到的这个信息来聊一下双机的体验对于最近大火的这个Dipsic V4 Flash这种284B的超大NOE模型除非用大家都非常嫌弃的这个Q1 Q2的量化那否则呢单台128G是绝对装不下的必须双机起步而且Dipsic的官方啊其实也针对Spot给出了TP等于2的张联并行的部署方案所以买第二台机呢主要解决的是装下的这个问题那装下之后双机跑V4 Flash到底能够跑多快呢根据社区的公开数据里面不开投机解码在30tokens每秒左右开启投机解码之后450是一个常态而冲到780呢只要看具体构建和这个提示词长度属于可用的一个区间吧而且两台机器只需要一根DAC直连的这个铜缆就能够背靠背的这个连接起来不需要买额外的交换机如果你上4G的这个TV4单流还是50上下但发入并发的这个聚合性能可以达到180tokens每秒左右那代价呢则是机器价格翻倍还得再搭进去一台万元左右的200G的交换机反观隔壁的这个Street Halo呢多机互联属于它比较尴尬的一个地方虽然说内存大也便宜但它没有一块能够做RDMA的一个网卡那有大神网友拿USB4进行直连自己用软件堆了一套RDMA那延迟呢确实也掉到了几十微秒这一档但带宽也跟着掉到了只有4GB出头那比起不走RDMA还低了一半虽然说你也可以用不依赖带宽的流水线并行来增加可用的内存同样也能够跑Dipsic V4但由于少了这个张量并行带来的高并发和prefuel的性能提升那这也会造成较大的一个性能浪费很难真正的投入实战所以Spark真正的互动盒除了这个大显存以外就是这一条绿色通道网上其实也有很多用4台甚至更多Spark主运算集群的案例但至于这个参数怎么调坑埋在哪里那这期我们就不展开了想看详细的这个双击实战点赞投币关注一波如果真的能够让金主爸爸看上那下期我们就再咬咬牙再买一台实战给你们看好了那这段这么多之后呢最后回到开头的那个问题那这台DJSpark到底是晒过金条还是一个智商税呢我的结论是啊它是一台有明确用途的小型AI服务器但三万多块的一个价格值不值得还得看要用它解决什么问题128G的统一内存Cuda还有高速度互联让它能够在这么小的体积里面跑大模型做多人服务也能够兼顾COMFUI而且这个功耗噪音和做工都是非常不错的当然短板这边也同样非常明确一个是贵然后另外一个呢就是带宽有限速度并不快使用上还得有一点这个Linux和部署的基础至于拿它来省API钱回本是否划算那就要看你怎么样来算这个成本了你是把购买机器花的钱当成这个成本还是说你是把卖出去这台机器换来的一个差价加上电费当成成本这都会影响这个问题在你心中的答案我认为它最适合的是已经明确要做本地AI需要大内存又希望留在Cuda生态里面的人那后续要上多机它自带的这个200G互联也能够发挥更好的性能但如果你只是想体验一下本地的大模型那Stream Halo的门槛明显更低前面Hero Jam的成绩也证明了选对软件它完全可以成为一个实用的选择如果说你的这个模型能够装进独显主要追求的是重力模型的一个土质速度或者说生图生视频的效率那按需配一台独显的主机往往会更加划算而预算更高还要兼顾日常工作的呢你也可以看一下大内存的这个Mac StudioSpark的价值则在于把大内存Cuda和互联能力装进了一台安静的小主机里面你需要这样的组合它就值得考虑只用了上其中一项的话呢那可以看看其他的方案好了 这些视频就到此为止至于这个双击和集群的实际表现呢等我们后面有条件再给大家端独做一期祝大家永远不死我们就下期再见了拜叮叮支付成功白桥支付7万4好 那我们就等这个继续到啊