热点事件 历史事件

SGLang 集成 HPC-Ops 至主分支

1 篇报道1 个精选信源

先了解这件事

报道摘要

腾讯混元开源算子库 HPC-Ops 已集成至 SGLang 主分支,其 Dynamic Attention 与 Fused MoE 在 Hy3 模型上最高降低 TPOT 48.8%。

摘自 LMSYS:Blog(Chatbot Arena 团队)

报道时间线

沿着报道,了解事件的不同侧面。

显示 1全部报道最新在前
  1. LMSYS:Blog(Chatbot Arena 团队)官方一手精选
    HPC-Ops × SGLang:腾讯混元开源高性能 Attention、Router GEMM 与 MoE 算子

    腾讯混元开源算子库 HPC-Ops 已集成至 SGLang 主分支,其 Dynamic Attention 与 Fused MoE 在 Hy3 模型上最高降低 TPOT 48.8%。