跳到正文
2023年9月6日周三
2023年9月3日周日
2023年9月1日周五
  1. LlamaIndex:产品、工程与评测44

    ChatGPT 知识截止已满两年:构建应用时该如何应对?

    ChatGPT 的知识截止日期距今已满两年,OpenAI 不直接更新是因为训练新 LLM 成本高达数千万美元且不保证成功,清洗新数据集同样昂贵。若应用需要更新的数据,标准做法是 RAG(检索增强生成),即搜索相关上下文、喂给 LLM、获得更好回答,可规避上下文窗口限制和按词计费的 API 成本。

2023年8月29日周二
  1. LangChain:Blog36

    Xata 与 LangChain 集成:新增向量存储与记忆存储

    Xata 为 LangChain 和 LangChain.js 各新增向量存储与记忆存储四项集成,可将文档嵌入存入 Xata 表做向量搜索,并把聊天历史作为 LLM 应用的长期记忆。Xata 是基于 PostgreSQL 的数据库平台,数据自动复制到 Elasticsearch,同时提供 BM25 全文搜索、向量搜索和混合搜索。官方还给出结合向量存储与记忆存储的多轮问答聊天机器人示例代码。

2023年8月25日周五
2023年8月24日周四
  1. LangChain:Blog41

    Cube 与 LangChain 集成:用语义层构建 LLM 的 text-to-sql 应用

    Cube 与 LangChain 集成,推出 CubeSemanticLoader 文档加载器,可将语义层数据模型的嵌入向量写入向量数据库,用于将自然语言问题匹配到数据模型中的视图和字段。官方同时提供基于 OpenAI、FAISS 和 Streamlit 的对话式演示应用,示例提示词可生成查询 Cube SQL API 的语句,代码已在 GitHub 开源。

2023年8月22日周二
2023年8月21日周一
2023年8月16日周三
  1. LangChain:Blog31

    Qdrant x LangChain:面向生产环境的性能表现

    Qdrant 与 LangChain 集成,主打生产环境的性能与资源效率:支持 100 万 OpenAI Vectors 仅需 2GB 至最多 18GB 内存。Qdrant 是 LangChain 提供的唯一支持异步操作的向量存储,基于 gRPC 提供完整 async API,开源版与 Qdrant Cloud SaaS 均可用。它还通过标量或乘积量化及 io_uring 降低磁盘 IO 开销。

2023年8月15日周二
2023年8月13日周日
2023年8月12日周六
2023年8月11日周五
2023年8月9日周三
2023年8月2日周三
2023年8月1日周二
2023年7月30日周日
2023年7月26日周三
2023年7月24日周一
2023年7月12日周三
  1. LlamaIndex:产品、工程与评测70

    LlamaIndex 发布 Data Agents 与 LlamaHub 工具仓库

    LlamaIndex 发布 Data Agents,LLM 驱动的知识工作者可对非结构化、半结构化和结构化数据执行读取与写入任务。

    推荐理由:发布方亲自讲解 Data Agents 的推理循环与工具抽象设计,并给出可直接复用的代码示例,适合想在自己的数据上搭建智能体的开发者参考。

2023年7月10日周一
2023年7月4日周二
2023年6月30日周五
2023年6月27日周二
2023年6月26日周一
2023年6月23日周五
  1. LlamaIndex:产品、工程与评测33

    LlamaIndex 与 Prem AI 完成集成,为 AI 开发带来隐私保护

    LlamaIndex 与 Prem AI 宣布完成集成,开发者可将 Prem 的自托管 AI 模型与 LlamaIndex 数据框架结合,轻松连接自定义数据源到大语言模型,简化数据摄取、索引和查询流程。教程演示了用 Redis 作向量库、Vicuna 7B Q4 生成回答、All MiniLM L6 V2 生成嵌入向量的"与数据对话"用例。

  2. LlamaIndex:产品、工程与评测49

    用 LlamaIndex 和 TruLens 构建与评测 LLM 应用

    LlamaIndex 与 TruLens 团队合作,在 TruLens 最新版本中为 LlamaIndex 应用引入 tracing,只需几行代码即可自动评测应用输入输出、LLM 调用、检索到的上下文块、延迟等组件。开发者用 TruLlama 包装 query engine 并添加反馈函数,即可在 TruLens dashboard 中查看评测结果并定位检索块不相关导致的模型幻觉。

2023年6月22日周四
2023年6月19日周一
2023年6月11日周日
2023年6月6日周二
2023年6月5日周一
  1. LlamaIndex:产品、工程与评测40

    Vellum 与 LlamaIndex 集成:为 LLM 应用提供提示词工程与测试

    Vellum 与 LlamaIndex 完成集成,LlamaIndex 用户可通过 VellumPredictor 自动注册提示词,并获得 Sandbox 迭代环境和带版本管理、请求监控的 Deployment。集成还支持用 Vellum Test Suites 批量上传 CSV 测试用例,在生产前跑 50–100 条用例做单元测试,并在生产中对历史输入做回归测试。

2023年5月28日周日
  1. LlamaIndex:产品、工程与评测61

    LlamaIndex 推出 SQLAutoVectorQueryEngine,结合 Text-to-SQL 与语义搜索完成 RAG 查询

    LlamaIndex 在博客中展示新查询引擎 SQLAutoVectorQueryEngine,可同时利用 SQL 数据库和向量数据库回答同时涉及结构化与非结构化数据的自然语言查询。

    推荐理由:原文给出 SQLAutoVectorQueryEngine 的工作流程、示例代码和实验结果,读者可以照着复现结构化与非结构化数据的组合查询。

2023年5月23日周二
2023年5月18日周四
2023年5月17日周三
2023年5月10日周三
2023年5月8日周一