HuggingFace Daily Papers·· 6 天前AI 评分45
STAIR:让早期问题的计算帮助 LLM 解决新问题
Can Computation from Earlier Problems Help LLMs Solve New Ones?
AI 导读
针对同一对话中历史计算能否帮助 LLM 解决后续问题,研究者提出 STAIR(Stale-Token Attention for Inter-query Reuse),将先前回答生成中的 keys 和 values 存入固定 bank,并学习在当前查询读取该 bank 时重定向查询。
来源:HuggingFace Daily Papers · arxiv.org