LangChain 集成 ScaleDown 约束解码模型
先了解这件事
LangChain 发布 langchain-scaledown 集成,并在 LangSmith LLM Gateway 中支持 ScaleDown 的约束解码模型(CDM),据 LangChain 称用于降低长时智能体上下文管理的成本和延迟。 ScaleDown 同期发布三款面向单一任务的约束解码模型 Classify、Extract 和 Summarize。据其介绍,这些模型不做逐 token 生成,只对输入做一次 prefill 并从原文中直接选出答案,用于智能体通常交给昂贵大模型的简单重复任务。ScaleDown 称输入为每百万 token 0.05 美元、输出免费,前 50 小时可免费获得 5000 万输入 token。 随后 OpenRouter 称该模型家族(Summarize、Extract、Classify-1)已在其平台上线,支持长文本、图片和 PDF 摘要、按自然语言定义字段提取 JSON、自定义标签分类,发布期 8 折优惠为输入每百万 token 0.04 美元、输出免费。
AI 根据报道生成 · 2 分钟前更新
事件进展
2 个进展
- 10月13日 20:42 · 2 篇报道ScaleDown发布三款约束解码模型Rohan Paul:ScaleDown 发布 3 个 Constrained Decoding Models:Classify、Extract 和 Summarize
- 10月13日 19:56 · 1 篇报道LangChain发布ScaleDown集成教程LangChain:Blog:LangChain 发布 langchain-scaledown 集成,用 ScaleDown 约束解码模型管理长时智能体上下文
报道时间线
沿着报道,了解事件的不同侧面。
- OpenRouterScaledown 约束解码模型家族上线 OpenRouter
Scaledown 的约束解码模型家族(Summarize、Extract、Classify-1)已在 OpenRouter 上线,每个模型专为单一任务打造,支持长文本/图片/PDF 摘要、自然语言定义字段提取 JSON、自定义标签分类。发布期 8 折优惠:输入 $0.04/M tokens,输出免费。
- Rohan PaulScaleDown 发布 3 个 Constrained Decoding Models:Classify、Extract 和 Summarize
ScaleDown 发布 3 个面向单一任务的 Constrained Decoding Models(Classify、Extract、Summarize),不做逐 token 生成,只对输入做一次 prefill 并从原文中直接选出答案。
- LangChain:Blog精选LangChain 发布 langchain-scaledown 集成,用 ScaleDown 约束解码模型管理长时智能体上下文
LangChain 发布 langchain-scaledown 集成,并在 LangSmith LLM Gateway 中支持 ScaleDown 的约束解码模型(CDM),用于降低长时智能体上下文管理的成本和延迟。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。