# NVIDIA 全栈 NIM 优化如何在 Nemotron 3 Ultra 上支撑 2.5 倍并发用户

- 来源：NVIDIA Technical Blog：Agentic AI / Generative AI
- 发布时间：2026-09-10 00:00
- AIHOT 分数：37
- AIHOT 链接：https://aihot.news/items/cmtym2ep40002rofbbbsq7kj3
- 原文链接：https://developer.nvidia.com/blog/how-full-stack-nim-optimizations-deliver-2-5x-more-users-on-nemotron-3-ultra

## AI 摘要

NVIDIA 在 4xB200 系统上对 Nemotron 3 Ultra NIM 2.0.12 优化后，系统输出吞吐从基线的 718 tok/s 提升至 1,997 tok/s，在 50 TPS/user 目标下并发用户数提升超 2.5 倍。

## 正文

按该来源的展示范围，站内仅提供摘要。

> 站内仅提供摘要，全文见原文。