vLLM 宣布支持 NVIDIA Vera Rubin NVL72
热点事件观察中
vLLM 宣布支持 NVIDIA Vera Rubin NVL72
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
vLLM 团队宣布其推理框架已支持 NVIDIA Vera Rubin NVL72 平台。据 vLLM 官方博客，在 AgentX 上匹配交互性时，该平台每 GPU 吞吐量达 GB200 NVL72 的 7.8 倍；在 MLPerf 中，VLM 吞吐量最高为 GB300 NVL72 的 3.7 倍。 面向 Rubin 硬件的使用方式是拉取 vLLM Docker Hub 上基于 CUDA 13.4 和 PyTorch 2.15 构建的 nightly 镜像 vllm/vllm-openai:cu134-nightly，针对 Rubin 的每日容器构建也已可用。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 08:00
vLLM 支持 NVIDIA Vera Rubin NVL72：吞吐量达 GB200 NVL72 的 7.8 倍报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- vLLM 官方博客vLLM 支持 NVIDIA Vera Rubin NVL72：吞吐量达 GB200 NVL72 的 7.8 倍
vLLM 现已支持 NVIDIA Vera Rubin NVL72，在 AgentX 上匹配交互性时每 GPU 吞吐量达 GB200 NVL72 的 7.8 倍，MLPerf 中 VLM 吞吐量最高为 GB300 NVL72 的 3.7 倍。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。