清华与港中文开源AKV缓存工程系统
热点事件持续更新
清华与港中文开源AKV缓存工程系统
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
清华大学与香港中文大学研究者开源了 AKV,一个构建在 SGLang 上的 KV cache 工程服务系统,让 LLM 智能体通过 Drop 和 Repos(RoPE 旋转重定位)操作丢弃或重排 KV 条目,而不改写文本历史。代码以 Apache-2.0 许可发布。 目前该系统仅支持 Qwen、GPT-OSS 和 MiniMax-M2 三类文本模型。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 15:56
清华与港中文团队开源 AKV:面向 LLM 智能体的 KV cache 工程服务系统报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- MarkTechPost清华与港中文团队开源 AKV:面向 LLM 智能体的 KV cache 工程服务系统
清华大学与 CUHK 研究者开源 AKV,一个构建在 SGLang 上的 KV cache 工程服务系统,让智能体通过 Drop 和 Repos(RoPE 旋转重定位)操作丢弃或重排 KV 条目而不改写文本历史。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。