跳到正文
热点事件持续更新

LangChain 集成 ScaleDown 约束解码模型

3 篇报道3 个报道来源25 分钟前更新

先了解这件事

AI 综述

LangChain 发布 langchain-scaledown 集成,并在 LangSmith LLM Gateway 中支持 ScaleDown 的约束解码模型(CDM),据 LangChain 称用于降低长时智能体上下文管理的成本和延迟。 ScaleDown 同期发布三款面向单一任务的约束解码模型 Classify、Extract 和 Summarize。据其介绍,这些模型不做逐 token 生成,只对输入做一次 prefill 并从原文中直接选出答案,用于智能体通常交给昂贵大模型的简单重复任务。ScaleDown 称输入为每百万 token 0.05 美元、输出免费,前 50 小时可免费获得 5000 万输入 token。 随后 OpenRouter 称该模型家族(Summarize、Extract、Classify-1)已在其平台上线,支持长文本、图片和 PDF 摘要、按自然语言定义字段提取 JSON、自定义标签分类,发布期 8 折优惠为输入每百万 token 0.04 美元、输出免费。

AI 根据报道生成 · 2 分钟前更新

事件进展

2 个进展

  1. 10月13日 20:42 · 2 篇报道
    ScaleDown发布三款约束解码模型
    Rohan Paul:ScaleDown 发布 3 个 Constrained Decoding Models:Classify、Extract 和 Summarize
  2. 10月13日 19:56 · 1 篇报道
    LangChain发布ScaleDown集成教程
    LangChain:Blog:LangChain 发布 langchain-scaledown 集成,用 ScaleDown 约束解码模型管理长时智能体上下文

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. OpenRouter
    Scaledown 约束解码模型家族上线 OpenRouter

    Scaledown 的约束解码模型家族(Summarize、Extract、Classify-1)已在 OpenRouter 上线,每个模型专为单一任务打造,支持长文本/图片/PDF 摘要、自然语言定义字段提取 JSON、自定义标签分类。发布期 8 折优惠:输入 $0.04/M tokens,输出免费。

  2. Rohan Paul
    ScaleDown 发布 3 个 Constrained Decoding Models:Classify、Extract 和 Summarize

    ScaleDown 发布 3 个面向单一任务的 Constrained Decoding Models(Classify、Extract、Summarize),不做逐 token 生成,只对输入做一次 prefill 并从原文中直接选出答案。

  3. LangChain:Blog精选
    LangChain 发布 langchain-scaledown 集成,用 ScaleDown 约束解码模型管理长时智能体上下文

    LangChain 发布 langchain-scaledown 集成,并在 LangSmith LLM Gateway 中支持 ScaleDown 的约束解码模型(CDM),用于降低长时智能体上下文管理的成本和延迟。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。