跳到正文
原文
HuggingFace Daily Papers(社区热门论文)·· 3 天前AI 评分42

DISCO:用接地-推理解耦实现分布式长上下文扩展

DISCO: Distributed Long Context Scaling with Grounding-Reasoning Disaggregation

AI 导读

针对长上下文推理质量随输入增长而崩塌的"context rot"问题,研究者提出 DISCO,借鉴 Apache Spark 的分布式思路,将长上下文切分给多个 Worker LLM 并行做局部接地,由经 GRPO 强化学习训练的 Driver LLM 负责规划与汇总。

来源:HuggingFace Daily Papers(社区热门论文) · arxiv.org