跳到正文
热点事件持续更新

清华与港中文开源AKV缓存工程系统

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

清华大学与香港中文大学研究者开源了 AKV,一个构建在 SGLang 上的 KV cache 工程服务系统,让 LLM 智能体通过 Drop 和 Repos(RoPE 旋转重定位)操作丢弃或重排 KV 条目,而不改写文本历史。代码以 Apache-2.0 许可发布。 目前该系统仅支持 Qwen、GPT-OSS 和 MiniMax-M2 三类文本模型。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. MarkTechPost
    清华与港中文团队开源 AKV:面向 LLM 智能体的 KV cache 工程服务系统

    清华大学与 CUHK 研究者开源 AKV,一个构建在 SGLang 上的 KV cache 工程服务系统,让智能体通过 Drop 和 Repos(RoPE 旋转重定位)操作丢弃或重排 KV 条目而不改写文本历史。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。