跳到正文
IT之家·人工智能·· 48 分钟前AI 评分43

英伟达实测 Vera CPU:每瓦智能体数量较最快 x86 CPU 多 60%

AI 时代最强“芯脏”:英伟达实测 Vera CPU,较最快 x86 CPU 每瓦多跑 60% 智能体

AI 导读

英伟达公布 Vera CPU 在智能体工作负载上的实测数据,在 100 兆瓦数据中心场景下,其每瓦可支持的智能体数量是最快 x86 CPU 的 1.6 倍,智能体速度是能效最高 x86 CPU 的 2 倍。

正文

IT之家 11 月 6 日消息,英伟达昨日(11 月 5 日)发布博文,公布了 Vera CPU(2026 年 3 月 16 日发布)在智能体工作负载上的实测数据,称其可在同一颗处理器中同时实现业界领先的智能体执行速度和每瓦吞吐量,帮助数据中心在有限电力条件下运行更多智能体。

英伟达表示与传统生成式 AI 不同,智能体不仅要生成答案,还需搜索资料、查询数据库、编写和测试代码,并实际执行任务。这些步骤大量依赖 CPU,并需要反复切换 CPU(负责执行)和 GPU(负责推理)。英伟达认为,随着企业规模化部署智能体,数据中心的核心瓶颈正从单纯算力转向“速度、并发能力和能耗”的平衡。

根据英伟达在 100 兆瓦(megawatt)数据中心场景下的对比测试,Vera CPU 相较速度最快的 x86 CPU,每瓦可支持 1.6 倍数量的智能体;相较能效最高的 x86 CPU,智能体速度提升 2 倍,同时保持领先能效。

IT之家援引博文介绍,多家早期合作方公布了测试结果:

  • Perplexity 称使用 Vera 运行智能体编码任务比传统 CPU 快 1.5 倍,并计划将其投入生产系统;

  • DeepInfra 表示在智能体编排任务中,Vera 比最佳 x86 处理器快至多 2.2 倍;

  • ClickHouse 称其标准软件无需专门优化,即可在 176 核上接近线性扩展,并登上 ClickBench 硬件排行榜。

  • 在并发场景中,Daytona 使用 Vera 在 10.8 秒内启动 1,000 个智能体沙箱,并在 2,000 个并发沙箱下实现每秒完成 12.7 个任务,而 x86 平台需要 88.4 秒。

  • Modal 则报告,Vera 每核心沙箱吞吐量最高达到同类 x86 硬件的 2 倍。

来源:IT之家·人工智能 · ithome.com