LlamaIndex 发布 EmbeddingAdapterFinetuneEngine,可为任意嵌入模型微调线性适配器
LlamaIndex 推出 EmbeddingAdapterFinetuneEngine,在任意嵌入模型(如 sentence_transformers、OpenAI)的 query 嵌入上微调线性适配器,文档嵌入保持固定、无需重新嵌入。
LlamaIndex 推出 EmbeddingAdapterFinetuneEngine,在任意嵌入模型(如 sentence_transformers、OpenAI)的 query 嵌入上微调线性适配器,文档嵌入保持固定、无需重新嵌入。
Eugene Yan 撰文讲解抽象式摘要的评估方法,涵盖流畅性、连贯性、相关性与一致性四个维度,并介绍基于参考、基于上下文、基于偏好和基于采样的四类指标。
ChatGPT 的知识截止日期距今已满两年,OpenAI 不直接更新是因为训练新 LLM 成本高达数千万美元且不保证成功,清洗新数据集同样昂贵。若应用需要更新的数据,标准做法是 RAG(检索增强生成),即搜索相关上下文、喂给 LLM、获得更好回答,可规避上下文窗口限制和按词计费的 API 成本。
Xata 为 LangChain 和 LangChain.js 各新增向量存储与记忆存储四项集成,可将文档嵌入存入 Xata 表做向量搜索,并把聊天历史作为 LLM 应用的长期记忆。Xata 是基于 PostgreSQL 的数据库平台,数据自动复制到 Elasticsearch,同时提供 BM25 全文搜索、向量搜索和混合搜索。官方还给出结合向量存储与记忆存储的多轮问答聊天机器人示例代码。
LlamaIndex 现已支持直接使用 Airbyte 的 Gong、Hubspot、Salesforce、Shopify、Stripe、Typeform 和 Zendesk Support 数据源,以 data loader 形式实现。
LlamaIndex 发布端到端指南,教你在无标注的非结构化语料上用 LLM 生成合成问题对来微调开源嵌入模型 BAAI/bge-small-en。
推荐理由:原文提供了完整的无标注数据微调嵌入模型方法和评测结果,读者可以直接复用笔记本改进自己的 RAG 检索。
Cube 与 LangChain 集成,推出 CubeSemanticLoader 文档加载器,可将语义层数据模型的嵌入向量写入向量数据库,用于将自然语言问题匹配到数据模型中的视图和字段。官方同时提供基于 OpenAI、FAISS 和 Streamlit 的对话式演示应用,示例提示词可生成查询 Cube SQL API 的语句,代码已在 GitHub 开源。
LangChain 与 Airbyte 合作,将 Gong、Hubspot、Salesforce、Shopify、Stripe、Typeform 和 Zendesk Support 七种 Airbyte 数据源实现为 document loaders,可直接在 LangChain 应用中使用。
LlamaIndex 与 Metaphor 发布集成,将 LlamaIndex data agent 与 Metaphor 作为原生 LLM 搜索工具结合,使 agent 能对任意新近或复杂问题进行联网检索并执行任务。
Qdrant 与 LangChain 集成,主打生产环境的性能与资源效率:支持 100 万 OpenAI Vectors 仅需 2GB 至最多 18GB 内存。Qdrant 是 LangChain 提供的唯一支持异步操作的向量存储,基于 gRPC 提供完整 async API,开源版与 Qdrant Cloud SaaS 均可用。它还通过标量或乘积量化及 io_uring 降低磁盘 IO 开销。
LangChain 发布对 CSV 表格数据问答的基准测试复盘,最终方案是一个使用 OpenAI functions 的智能体,配备 Python REPL 和检索器两个工具。
Eugene Yan 撰文讲解如何将 LLM 模式匹配到常见问题,先区分外部与内部 LLM、数据型与非数据型模式。
LlamaIndex 发布教程,演示如何用 Text2SQL 加 RAG 分析商品评论数据。方法先把自然语言问题用 gpt-3.5-turbo 拆成取数与解读两个子问题。
Zep 为 LlamaIndex 推出新的 ZepVectorStore,可直接接入 Zep 的 Document Vector Store。开发者通过 ZepVectorStore 创建 Collection 并构建索引,即可对文档做混合语义搜索,并用 LlamaIndex 的 MetadataFilters 按元数据过滤结果。
LangChain 宣布与 Airbyte 达成更深度集成,在 Airbyte 中新增 LangChain destination,帮助检索类应用把数据摄取逻辑从原型推进到生产。
FlagOpen 开源 FlagEmbedding 项目,提供面向搜索和 RAG 的 BGE 一站式检索工具包,含 Embedder、Reranker 的推理、微调与评测,采用 MIT 许可证。
LlamaIndex 发布 Data Agents,将 AI 智能体与数据结合,提供 agent 推理循环和工具抽象,并随 LlamaHub 升级带来 15+ 工具规格。同期推出精简 TypeScript 包 LlamaIndex.TS,用于构建 RAG 系统,并新增 BEIR、HotpotQA 基准支持及 Chroma v0.4.0、Llama2、Claude 2.0 等集成。
Eugene Yan 发表长文,将学术研究、行业资源与一线经验提炼为构建 LLM 系统与产品的七大模式:Evals、RAG、微调、缓存、Guardrails、防御式 UX 和用户反馈收集,并按提升性能与降低成本风险、靠近数据与靠近用户两个维度组织。
LangChain 团队尝试构建自动化网络研究的 agent,迭代搜索表现不佳后,改为并行搜索、抓取页面并用 LLM 从每页提取最相关内容,最终将其演化为一个新的 LangChain retriever,提供文档和配置示例。
LlamaIndex 宣布推出 v0.0.1 的 LlamaIndex.TS,一个 TypeScript 优先的库,帮助开发者将私有数据与大语言模型结合。
LlamaIndex 发布 Data Agents,LLM 驱动的知识工作者可对非结构化、半结构化和结构化数据执行读取与写入任务。
推荐理由:发布方亲自讲解 Data Agents 的推理循环与工具抽象设计,并给出可直接复用的代码示例,适合想在自己的数据上搭建智能体的开发者参考。
LlamaIndex 与 Anyscale 合作,借助 Ray 平台将运行速度提升 10 倍并简化生产部署。0.7.0 版本增强了模块化,新增 OpenAI、Hugging Face 等原生 LLM 抽象和独立 Response Synthesis 模块。此外还引入递归检索、DePlot 图表解析、GitHub Issues 读取器及改进的 text-to-SQL 能力。
LlamaIndex 发布 0.7.0,继续推进低层模块化,让用户可自底向上构建基于自己数据的 LLM 应用。
LlamaIndex 公布伯克利黑客松“最佳知识密集型 LLM 应用”奖获奖名单,一等奖 Helmet AI 用 GPT 模型、LlamaIndex、LangChain 和 Pinecone 构建市场情报工具,36 小时内完成开发。另一获奖项目 Split 基于用户历史邮件微调 LLM,生成保留个人写作风格的邮件。
作者为 LlamaIndex 新增了图数据库和 GraphQL API 两个数据加载器,并演示如何用加载器把外部数据接入 LLM 查询。文中先用 SimpleCSVReader 加载 countries.csv 构建 GPTVectorStoreIndex,配合 gpt-3.5-turbo 完成跨语言问答并返回引用文档。
LlamaIndex 与 Anyscale 联合发布教程,演示用 LlamaIndex + Ray 构建针对 Ray 文档和博客的查询引擎。
LlamaIndex 发布新博客系列 LlamaIndex Update,并推出多项功能更新:支持 NebulaGraph 的知识图谱 RAG、可内联引用来源的 CitationQueryEngine、集成 Microsoft Guidance 实现结构化输出,以及支持顺序工具调用和异步回调的 OpenAIAgent。
LlamaIndex 与 Prem AI 宣布完成集成,开发者可将 Prem 的自托管 AI 模型与 LlamaIndex 数据框架结合,轻松连接自定义数据源到大语言模型,简化数据摄取、索引和查询流程。教程演示了用 Redis 作向量库、Vicuna 7B Q4 生成回答、All MiniLM L6 V2 生成嵌入向量的"与数据对话"用例。
LlamaIndex 与 TruLens 团队合作,在 TruLens 最新版本中为 LlamaIndex 应用引入 tracing,只需几行代码即可自动评测应用输入输出、LLM 调用、检索到的上下文块、延迟等组件。开发者用 TruLlama 包装 query engine 并添加反馈函数,即可在 TruLens dashboard 中查看评测结果并定位检索块不相关导致的模型幻觉。
LlamaIndex 与 Weaviate 组合可搭建 RAG 技术栈:Weaviate 作为向量数据库充当外部存储,LlamaIndex 负责数据管理与编排。
Michael Chang 在 LangChain 博客发布 data-driven-characters 开源仓库,可上传语料、命名角色即可生成角色聊天机器人,支持导出到 character.ai、命令行和 Streamlit 三种交互方式。
Eugene Yan 发布 Obsidian-Copilot 原型,通过检索增强生成根据章节标题起草段落,并可回顾一周日记、规划下周,代码开源在 GitHub。
LlamaIndex 宣布获得由 Greylock 领投的 850 万美元种子轮融资,定位为连接私有数据与 LLM 的数据框架。项目上线六个月内获得 16K GitHub Stars、20K Twitter 粉丝、20 万月下载量和 6K Discord 活跃用户,Instabase、Front、Uber 等公司已开始试用。
Vellum 与 LlamaIndex 完成集成,LlamaIndex 用户可通过 VellumPredictor 自动注册提示词,并获得 Sandbox 迭代环境和带版本管理、请求监控的 Deployment。集成还支持用 Vellum Test Suites 批量上传 CSV 测试用例,在生产前跑 50–100 条用例做单元测试,并在生产中对历史输入做回归测试。
LlamaIndex 在博客中展示新查询引擎 SQLAutoVectorQueryEngine,可同时利用 SQL 数据库和向量数据库回答同时涉及结构化与非结构化数据的自然语言查询。
推荐理由:原文给出 SQLAutoVectorQueryEngine 的工作流程、示例代码和实验结果,读者可以照着复现结构化与非结构化数据的组合查询。
LlamaIndex 在三份 Uber 2022 年 10-Q 财报上比较了复杂无约束的 ReAct agent 与简单路由 agent 的查询效果。
LlamaIndex 与 MongoDB 联合发布教程,讲解如何用 LlamaIndex 连接私有数据并结合 MongoDB 存储,构建可对自有文档进行英文问答的系统。
LlamaIndex 团队介绍了围绕 LLM 驱动检索与重排序构建的核心抽象,用于改进传统 top-k 嵌入检索。
LlamaIndex 作者 Jerry 在 TWIML AI 播客中回顾了项目起源:2022 年 11 月为做销售机器人而尝试把 Notion、Slack、Salesforce 等私有数据接入 GPT-3,由此催生这一连接语言模型与数据的工具包。
LlamaIndex 发布新的数据结构 Document Summary Index,为每个文档用 LLM 提取摘要并建立摘要到源文档节点的映射,以提升检索效果。