热点事件持续更新

vLLM 首日支持 Recursive Flint 模型

1 篇报道1 个报道来源18 小时前更新

先了解这件事

AI 综述

vLLM 宣布从发布首日起支持 Recursive 的 Flint 模型，其 NVFP4 和 BF16 checkpoint 均可在单张 GPU 上运行。vLLM 称，在一张 GB200、上下文达 100K token 时，单请求解码速度约 500 tokens/s。这一加速有适用条件：Flint 内核针对单张 Blackwell GPU（TP=1、BF16 KV cache），其他配置会回退到 vLLM 的标准层。此外，推理内容计入 max_tokens，处理难题时建议至少预留 32K。

AI 根据报道生成 · 1 小时前更新

最新进展10月21日 08:00

vLLM Day-0 支持 Recursive 40B MoE 模型 Flint，单卡推理约 500 tokens/s

报道时间线

沿着报道，了解事件的不同侧面。

10月21日

08:00
vLLM 官方博客
vLLM Day-0 支持 Recursive 40B MoE 模型 Flint，单卡推理约 500 tokens/s
vLLM 宣布 Day-0 支持 Recursive 的 Flint，其 NVFP4 和 BF16 checkpoint 均可在单张 GPU 上运行，在一张 GB200、100K token 上下文下单请求解码约 500 tokens/s。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。