公众号:小红书技术· REDtech·· 2 小时前AI 评分45
小红书 AllSpark 提出增强上下文学习能力的数据管线,35B 模型追平万亿参数前沿模型
怎么让大模型更好地利用上下文?小红书 AllSpark 提出增强上下文学习能力的数据管线
AI 导读
小红书 AllSpark 团队提出一套不依赖人工标注的合成数据训练流程,用 GLM-5.2 对 3515 篇公开文档做深度改写以切断参数记忆,最终生成 9625 条训练样本。
来源:公众号:小红书技术 · mp.weixin.qq.com