跳到正文
热点事件历史事件

Together AI 交付 KV-Block-Major 稀疏注意力内核、MSA 分页注意力集成、优化索引评分内核和 Rust 多模态网关等优化，使 M3 推理吞吐量在不同并发下提升 81–125%

1 篇报道1 个报道来源2026-06-02更新

先了解这件事

报道摘要

Together AI 作为 MiniMax M3 的首选云合作伙伴，介绍了为该模型提供生产级推理服务的工程方案。M3 采用 MiniMax Sparse Attention 块稀疏注意力，使 prefilling 提速超 9x、decoding 提速超 15x，支持 1M token 上下文与原生多模态。

摘自 Together AI 研究与产品博客

最新进展6月2日 08:00
Together AI 解析如何高效服务 MiniMax M3：1M token 上下文与多模态推理优化

报道时间线

沿着报道，了解事件的不同侧面。

6月2日
  1. Together AI 研究与产品博客精选
    Together AI 解析如何高效服务 MiniMax M3：1M token 上下文与多模态推理优化

    Together AI 作为 MiniMax M3 的首选云合作伙伴，介绍了为该模型提供生产级推理服务的工程方案。M3 采用 MiniMax Sparse Attention 块稀疏注意力，使 prefilling 提速超 9x、decoding 提速超 15x，支持 1M token 上下文与原生多模态。