n8n 教程:在 NVIDIA DGX Spark 上离线运行全套 AI 工作流
n8n 博客发布教程,讲解如何在一台 NVIDIA DGX Spark(128GB 统一内存)上部署七个本地模型,通过 LiteLLM 单一 OpenAI 兼容端点驱动 n8n 工作流,全程不调用云 API。
推荐理由:作者在自有 DGX Spark 上实测整套本地模型栈,给出内存分配、License 筛选和并发性能数据,可迁移到小型团队的私有化部署。
公司与模型
英伟达的 GPU 新品、CUDA 软件生态、机器人平台与 AI 算力供需。
92 条精选近 30 天 25 条共收录 1,169 条
n8n 博客发布教程,讲解如何在一台 NVIDIA DGX Spark(128GB 统一内存)上部署七个本地模型,通过 LiteLLM 单一 OpenAI 兼容端点驱动 n8n 工作流,全程不调用云 API。
推荐理由:作者在自有 DGX Spark 上实测整套本地模型栈,给出内存分配、License 筛选和并发性能数据,可迁移到小型团队的私有化部署。
推荐理由:作者亲测 RTX Spark 上的本地模型部署路径,并把整套流程封装成 WorkBuddy 专家,读者可以照着复现本地 Token 自由的用法。
SGLang 团队推出 Low-Latency Mode,通过插件框架引入专用内核,在 NVIDIA GB300 和 AMD MI355X GPU 上显著降低推理延迟。
推荐理由:原文给出 SGLang 低延迟模式的具体内核优化路径和 NVIDIA、AMD 两套实测数字,可帮助读者评估低并发推理场景的收益。
数字生命卡兹克分享华硕ProArt创16(RTX Spark N1X芯片、128G统一内存、37999元)的一周深度使用体验,该机全球开售时128G版本在京东几分钟内被抢空。
推荐理由:作者用一周实测讲清了如何在128G统一内存的RTX Spark笔记本上部署本地模型,并给出可复用的WorkBuddy专家整合流程。
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。
推荐理由:原文给出了 Beam 在 vLLM 上的具体优化数据和部署命令,读者可以直接评估落地配置与吞吐收益。
SGLang 团队宣布原生支持 Reflection 的 Beam 1.0(501B 参数 MoE、每 token 激活 23B),并以其驱动 Reflection 的生产 API。
推荐理由:原文给出 SGLang 对 Beam 的原生支持细节与实测吞吐数据,读者可据此评估该推理栈在智能体负载下的服务性能。
NVIDIA 宣布 RTX Spark 笔记本正式开售,来自 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI,起价 $2,599。
推荐理由:原文来自 NVIDIA 官方发布,完整列出 RTX Spark 的硬件规格、AI、创作与游戏能力和首发机型,可据此评估本地 AI PC 的实际用途。
Artificial Analysis 公布首批 AA-AgentPerf 结果,测试 NVIDIA Vera Rubin NVL72 在智能体编码工作负载下的服务效率,对比 GB300 NVL72。
推荐理由:Artificial Analysis 实测四种模型在 Vera Rubin NVL72 与 GB300 上的每瓦吞吐,读者可据此评估新硬件对智能体推理服务成本的影响。
NVIDIA 发布开源 120B 参数多模态模型 Nemotron 3.5 Super VL,面向高频智能体任务,官方称其准确率可比自家最大推理模型、参数量约为五分之一,吞吐比同类次优模型快至 5 倍;同时推出边缘模型 Bolt 74B-A9B 24GB(原生 2-bit 量化,可本地运行于 RTX/DGX Spark)和 Bolt E4B 4GB(10 月 23 日上线)。
推荐理由:原文给出三款开放模型各自针对的部署层级和量化、训练数据规模,读者可据此判断哪一档适合自家智能体场景。
恭喜 StepFun 发布 Step 5 Preview 🙌 这是他们规模最大的开放权重发布。 这个 600B MoE 模型专为处理长达 24 小时的 agent 任务而构建。 该模型在 NVIDIA GB300 上使用 NVFP4,运行速度接近 8K tokens/sec/GPU。 NVP4 checkpoint:https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4 使用 @SGL_project 部署 - https://docs.sglang.io/cookbook/autoregressive/StepFun/Step-5-Preview 或 @vLLM_project - https://recipes.vllm.ai/stepfun-ai/Step-5-Preview 使用 NeMo Automodel 进行后训练:https://github.com/NVIDIA-NeMo/Automodel/blob/main/docs/model-coverage/llm/stepfun-ai/step-5-preview.mdx 使用 NVIDIA NIM 通过单条命令运行它:https://catalog.ngc.nvidia.com/orgs/nim/nvidia/containers/vllm-model-free-nim-experimental/-
推荐理由:原文补充了 Step 5 Preview 在 NVIDIA GB300 上的推理表现和 NVFP4 权重入口,可帮助开发者评估部署选择。
NVIDIA 的 RTX 视频特效现以自定义节点形式在 ComfyUI 中本地运行,官方推荐按超分、补帧、HDR 的顺序搭建完整 VFX 管线。
推荐理由:原文来自 ComfyUI 官方博客,详细说明了 NVIDIA VFX 三个节点的参数与推荐管线顺序,VFX 从业者可据此搭建本地视频增强工作流。
NVIDIA 官宣 RTX Spark 笔记本将于 10 月 16 日发售,配合发布推出覆盖 Agent、创意和开发工具的软件更新,该超芯片具备最高 128GB 统一内存和 1 petaflop AI 算力。
推荐理由:官方汇总了 RTX Spark 上市前的软件生态准备,从本地 Agent、创意应用到开发工具和 DLSS 5,读者可据此了解平台落地细节。
NVIDIA KGMON 团队在 KDD Cup 2026 Data Agents 竞赛获得第二名,并发布构建可靠数据分析智能体的方法复盘。
推荐理由:NVIDIA KGMON 团队复盘 KDD Cup 2026 数据智能体赛题的九项实践,给出在固定小模型上构建可验证 agent harness 的可迁移方法。
NVIDIA 与 Microsoft 在旧金山活动上宣布为 Windows PC 共同打造 AI Agent 软硬件。
推荐理由:原文给出 RTX Spark 的具体规格、预购时间与 MXC 的系统级细节,读者可据此评估本地跑 Agent 的硬件路线。
NVIDIA 宣布 DGX Spark 推出 64GB 统一内存新配置,10 月 23 日起由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 发售,起步价 $4,999,支持最高 1000 亿参数模型在端侧运行。
推荐理由:官方公告给出64GB版的价格、上市时间和双机集群性能数据,读者可以据此评估本地AI部署的内存与成本取舍。
GPT-6 Astra Ultrafast 现已在 OpenAI API 及符合条件的 ChatGPT Work 和 Codex 用户中可用,运行在 NVIDIA Blackwell GPU 上。
推荐理由:原文给出 Ultrafast 模式相对 Astra Standard 的 8x 生成提速及其对 agent 开发工作流的影响,并说明开放范围和入口。
推荐理由:原文给出白宫超级智能协定的四层控制框架和参与方承诺,读者可以据此了解行业自律的具体安排。
推荐理由:Hugging Face CEO 亲自说明被 NVIDIA 收购后的用人与开源长期投入思路,对理解其后续开源路线有直接参考。
NVIDIA 发布开源表格基础模型 Kumo Tabular,对带标签表格做单次前向推理即可完成分类和回归,无需训练、调参或特征工程。
推荐理由:官方技术博客披露了架构、纯人工数据预训练配方和四项基准成绩,读者可据此评估其替换梯度提升树的可行性。
我们正与 Nvidia 及 100 多家行业伙伴合作,构建能够遏制失控 AI 智能体的基础设施。 在这项研究中,我们让 9 个 AI 模型在 SPACE 内部获得 root 权限,并指示它们突破出去。 在 108 次运行中,没有任何一次突破 VM 边界。 https://www.perplexity.ai/hub/blog/escaping-space-part-i
推荐理由:原文给出108次越狱测试的具体结果和两种绕过手法,还指出多家主流沙箱平台存在同样的 IP 共享漏洞,具有行业参考价值。