跳到正文
  1. LangChain:Blog61

    Numan 如何用 LangGraph 和 LangSmith 构建评测优先的 AI 健康教练 Nu

    英国数字健康公司 Numan 复盘其 AI 健康教练 Nu 的评测体系建设,核心结论是稀缺资产不是提示词而是评测标准。单轮静态数据集和脚本化多轮对话都难以覆盖真实会话,Nu 改为按类别打分的主题数据集、以更廉价模型扮演患者的模拟对话层,并让安全回归自动阻断发布。

    推荐理由:Numan 一手复盘 AI 健康教练的评测体系建设,给出的固定数据集、模拟对话和临床医生签核准则等做法可迁移到其他受监管场景。

  1. Tessl:产品与工程博客68

    Tessl 工程博客:AI 不是笨,是瞎——企业级 Agent 记忆的三个关键设计决策

    作者基于为跨公司工作的 Agent 构建记忆系统一年的经验指出,AI 失败的常见原因不是模型推理差,而是它看不到关键决策上下文,多数 agent memory 只是给瞎子更大的档案柜。

    推荐理由:作者以自建系统的一手实测数据说明为何该把记忆当受治理的记录而非存储,三个设计决策和成本数字可直接迁移。

  1. Google Developers Blog66

    Google 发布 EmbeddingGemma 2:基于 Gemma 4 的开源多模态嵌入模型

    Google 发布基于 Gemma 4 的开源嵌入模型 EmbeddingGemma 2,采用 Apache 2.0 许可,将文本、代码、图像、视频和音频映射到统一的 768 维向量空间,参数量从 270M(文本/代码)到 740M(全模态)按需加载。

    推荐理由:原文给出了各模态参数配置、维度压缩的具体存储数字和选型建议,开发者可据此规划本地多模态检索方案。

  1. OpenRouter:Announcements67

    OpenRouter 发布 2026 年最佳嵌入模型选型指南,覆盖 37 个目录条目

    OpenRouter 于 2026 年 9 月 11 日核实嵌入模型目录共 37 个条目,并通过自家 embeddings API 向 19 个模型发送批量请求、共 28 项检查,确认请求与响应行为。

    推荐理由:作者用自家 API 实测 19 个模型并按用例给出候选、价格与维度,读者可按输入类型和存储约束直接对照选型。

  1. LlamaIndex:产品、工程与评测65

    LlamaIndex 解析 just-in-time Agentic OCR:两遍式文档处理如何平衡成本与精度

    LlamaIndex 博客提出 just-in-time Agentic OCR 模式:先用 LiteParse 等免费解析器粗读全部文件供检索,再仅对相关页面调用 VLM 做 OCR。

    推荐理由:作者用 84 份 SEC 文件实测两遍式文档处理流程,给出明确的适用边界和成本数字,方法可直接迁移到自己的数据室场景。

  1. Hugging Face 社区博客73

    用 Sentence Transformers 训练与微调多向量嵌入模型

    Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,支持 ColBERT 风格的后交互检索,并配套完整训练流程。

    推荐理由:文章量化了不同起点的领域适应差距,未监督预训练 checkpoint 反超已微调版本,并把长文档截断列为比架构更影响 NDCG 的因素。

  1. Fireworks AI61

    Fireworks 发布 Qwen3-Embedding-8B 低成本对比微调配方

    Fireworks 发布一条低于 10 美元、约 150 步的对比微调配方,将 Qwen3-Embedding-8B 适配到特定检索领域。

    推荐理由:原文用真实任务给出完整可复现的对比微调配方和成本数字,读者可以据此判断是否迁移到自己的检索场景。

  1. MarkTechPost72

    LlamaIndex 发布 legal-kb:基于 Index v2 的智能体检索参考应用

    LlamaIndex 发布 legal-kb,一个基于 Index v2(LlamaParse Platform)的法律文档知识库参考应用。采用 Retrieval Harness 模式,赋予 Agent 四个文件系统风格工具:retrieve(混合语义检索,支持 rerank 和引用)、findFiles(精确/模糊文件名搜索)、readFile(带偏移量的原始内容读取)和 grepFile(正则匹配并返回字符位置)。Agent 需先调用 findFiles 确定文件清单,再依次使用其他工具定位内容。底层基于 Vercel AI SDK 6 的 ToolLoopAgent,可选用 OpenAI 或 Anthropic 模型,支持用户自带 API key。项目以 TanStack Start web app 形式运行,上传文件自动解析索引,同一文件名重复上传可产生版本,检索时通过版本元数据字段过滤。

    推荐理由:LlamaIndex 把 RAG 从一次搜索变成了‘先找文件、再搜、再读、再 grep’的多步循环,对做合同审查、尽调的团队来说是个可抄的模板。

  1. MarkTechPost70

    pgvector驱动的语义、混合、稀疏与量化向量搜索系统构建编码指南

    本教程在Google Colab中构建一个完整的pgvector实验环境,展示PostgreSQL如何作为向量数据库服务于现代AI应用。内容涵盖安装PostgreSQL、编译pgvector扩展、通过Psycopg建立连接,并注册向量类型以实现与Python的平滑集成。最后使用SentenceTransformers创建并存储嵌入向量。

    推荐理由:这份教程把 pgvector 的稀疏向量、量化搜索等高级功能打包成 Colab 代码,用 PostgreSQL 做向量数据库的团队可以直接复制粘贴跑起来。

  1. LlamaIndex:产品、工程与评测64

    LlamaIndex 用 LiteParse 构建带 PDF 原文高亮引用的财务尽调 Agent

    LlamaIndex 工程师发布了一个财务尽调 Agent 演示应用,用 LiteParse 解析 SEC 文件并获得文本的 bounding box 坐标,使 Agent 回答能在原始 PDF 页面上高亮精确来源。

    推荐理由:作者完整拆解了一个约 600 行代码的尽调 Agent 实现,检索与引用方案可直接迁移到类似的文档问答项目。

  1. LlamaIndex:产品、工程与评测62

    LlamaIndex 深入解析 LiteParse 将 PDF 转为文本的网格投影算法

    LlamaIndex 详解其开源 PDF 解析工具 LiteParse 的网格投影算法核心原理。PDF 只存储文本内容和绘制坐标而无阅读顺序,算法通过提取左、右。

    推荐理由:LiteParse 官方拆解其网格投影算法的设计取舍与实现细节,读者可以了解 PDF 文本提取如何用对齐锚点保留表格和多栏结构。

  1. Hugging Face 社区博客69

    使用 Sentence Transformers 训练与微调多模态嵌入及重排序模型

    Sentence Transformers 发布了用于训练和微调多模态嵌入与重排序模型的功能。新版本支持将文本、图像等不同模态的数据映射到统一的向量空间,并优化了跨模态检索的精度。关键改进包括对嵌入模型和重排序器进行联合或分阶段训练,显著提升了如图文检索等任务的性能指标。此次更新旨在通过开源工具推动多模态人工智能技术的普及与发展。

    推荐理由:这是训练多模态嵌入模型的全套指南,附带 VDR 微调实验和代码。如果你需要把文本和图像检索对齐到自己的业务数据上,这篇能省掉大量试错时间。

  1. LlamaIndex:产品、工程与评测68

    LlamaParse 复盘 VLM OCR 生产环境中的两类失败模式与修复方案

    LlamaIndex 复盘 LlamaParse 的两类生产故障:LLM 重复循环导致 token 消耗和延迟暴增、资源耗尽,以及 recitation 内容过滤把合法文档抽取误判为版权违规而强行截断输出。

    推荐理由:当事方复盘两类真实生产事故的根因、各厂商 API 表现差异与具体缓解手段,方法可直接迁移到其他 agentic 文档处理系统。

  1. LlamaIndex:产品、工程与评测67

    LlamaIndex 解析为什么让 AI 读 PDF 这么难

    LlamaIndex 发文解释 AI 智能体读 PDF 难的根本原因:PDF 源自 1982 年的 PostScript,只存绘图指令而非字符,文本编码、表格、图表和阅读顺序都需要启发式推断。

    推荐理由:文章从 PDF 格式底层设计讲清解析困难的根源,并给出文本提取与视觉模型结合的可迁移架构思路。

  1. LangChain:Blog63

    LangChain 重建 Chat LangChain:放弃向量嵌入,改用直接 API 访问与 Deep Agent 子图

    LangChain 重建了 chat.langchain.com,弃用分块加向量数据库的检索方案,改为让智能体通过 Mintlify API、知识库标题扫描和 ripgrep 代码搜索直接访问文档、知识库和代码库的原始结构。

    推荐理由:原文复盘了放弃向量嵌入、改用直接 API 访问和子图分域的重建思路,含工具设计与性能数字,方法可迁移到类似问答智能体。

  1. Anthropic:Engineering72

    引入上下文检索:大幅提升RAG系统准确性的新方法

    传统RAG系统在编码时易丢失上下文,导致检索失败。新方法“上下文检索”通过“上下文嵌入”和“上下文BM25”两项子技术,在检索前为文本块添加解释性上下文,能将检索失败次数减少49%,结合重排序后降幅可达67%,显著提升了下游任务性能。对于小于20万token的小型知识库,可直接将其完整内容放入提示词,结合Claude的提示词缓存功能,能降低超过2倍的延迟和高达90%的成本。对于大型知识库,上下文检索则提供了可扩展的解决方案。

    推荐理由:Anthropic 把 RAG 检索失败率砍了 67%,方法不复杂但数据扎实,做知识库的开发者可以直接抄 cookbook 上手,是那种读完当天就能改进生产环境的实用帖。

  1. LlamaIndex:产品、工程与评测60

    LlamaIndex 教程:自定义属性图谱索引以提升 GraphRAG 准确率

    Neo4j 客座教程讲解如何在 LlamaIndex 中自定义属性图谱索引,用 SchemaLLMPathExtractor 做模式引导抽取、用文本嵌入加编辑距离做实体去重,并实现先识别查询实体再分别执行 VectorContextRetriever 的自定义检索器。示例使用 250 篇新闻文章和 Neo4j 图存储,最后用自定义检索器完成问答回流,代码托管在 GitHub。

    推荐理由:原文给出图谱构建、实体去重和自定义检索的完整可复现代码,读者可以迁移到自己的 GraphRAG 项目。

  1. LlamaIndex:产品、工程与评测62

    用 LlamaIndex 和 llamafile 搭建本地私有研究助手

    LlamaIndex 发布 Mozilla 客座教程,讲解用 llamafile 在笔记本上本地运行 LLM,并以 TinyLlama-1.1B 作为 LLM 与嵌入后端,结合 Wikipedia 页面与私有文档构建完全本地运行的 RAG 研究助手。

    推荐理由:教程给出从下载运行 llamafile 到用 LlamaIndex 搭建本地 RAG 研究助手的完整代码路径,可迁移到其他主题。

  1. Eugene Yan:Writing82

    Applied LLMs:一年 LLM 应用开发的经验总结

    Eugene Yan 等六位作者发布长文 Applied LLMs,总结一年 LLM 应用开发经验,分战术、运营、战略三部分。战术层面涵盖 n-shot 与 CoT 提示词技巧、RAG 文档相关性、结构化输出工具 Instructor 和 Outlines、LLM-as-Judge 评测及幻觉防护;战略层面提出 PMF 之前不买 GPU、先提示词后微调、系统比模型更构成护城河等观点。

    推荐理由:多位从业者基于一年真实开发经验总结提示词、RAG、评测到团队与战略的实践清单,读者可对照自己的 LLM 项目逐条借鉴。