内容形态
拿来就能用的实操内容：提示词技巧、工作流搭建、工具用法与踩坑经验。
519 条精选近 30 天 65 条共收录 2,686 条
Cognition 公布在 Devin 中测试 o1-mini 和 o1-preview 数周的早期结果：在内部基准 cognition-golden 上，Devin-Base 从 GPT-4o 的 25.9% 提升到 o1-mini 的 34.6%、o1-preview 的 51.8%，生产版 Devin 达 74.2%。
推荐理由：Cognition 作为 Devin 开发方给出 o1 系列的实测对比数据，并完整披露其内部基准 cognition-golden 的评测方法。
Suno 发布 Audio Inputs 功能，所有 Pro 和 Premier 用户可上传或录制 6-60 秒的音频片段，通过“Extend”模式选择起始时间戳、设定风格，并可添加歌词来创作歌曲。社区创作者已用其提供自定义音频引子来设定氛围、节奏和乐器灵感。该功能会阻止受版权保护作品的上传，且所有包含人声的输入将保持私密并不可搜索。
推荐理由：Suno 把上传录音做歌的门槛降到极低，对音乐创作者和普通用户都友好，只是这已经是前年的更新，之后的同类功能可能更完善。
Neo4j 客座教程讲解如何在 LlamaIndex 中自定义属性图谱索引，用 SchemaLLMPathExtractor 做模式引导抽取、用文本嵌入加编辑距离做实体去重，并实现先识别查询实体再分别执行 VectorContextRetriever 的自定义检索器。示例使用 250 篇新闻文章和 Neo4j 图存储，最后用自定义检索器完成问答回流，代码托管在 GitHub。
推荐理由：原文给出图谱构建、实体去重和自定义检索的完整可复现代码，读者可以迁移到自己的 GraphRAG 项目。
LlamaIndex 发布 Mozilla 客座教程，讲解用 llamafile 在笔记本上本地运行 LLM，并以 TinyLlama-1.1B 作为 LLM 与嵌入后端，结合 Wikipedia 页面与私有文档构建完全本地运行的 RAG 研究助手。
推荐理由：教程给出从下载运行 llamafile 到用 LlamaIndex 搭建本地 RAG 研究助手的完整代码路径，可迁移到其他主题。
Eugene Yan 等六位作者发布长文 Applied LLMs，总结一年 LLM 应用开发经验，分战术、运营、战略三部分。战术层面涵盖 n-shot 与 CoT 提示词技巧、RAG 文档相关性、结构化输出工具 Instructor 和 Outlines、LLM-as-Judge 评测及幻觉防护；战略层面提出 PMF 之前不买 GPU、先提示词后微调、系统比模型更构成护城河等观点。
推荐理由：多位从业者基于一年真实开发经验总结提示词、RAG、评测到团队与战略的实践清单，读者可对照自己的 LLM 项目逐条借鉴。
LlamaIndex 博客介绍 Agentic RAG 架构：将最多 100 篇文档拆分后，为每篇文档创建具备嵌入搜索与摘要能力的文档 Agent，再由顶层 meta-agent 通过工具检索和 CoT 回答用户问题，并用 Rerank 端点对文档按相关性排序。
推荐理由：原文拆解了多文档 Agent 与顶层 meta-agent 的编排结构，并给出可运行的 Colab 示例，读者可据此理解 Agentic RAG 的扩展方式。
LlamaIndex 发布分步教程，教读者用 LlamaIndex、Qdrant 和 Render 构建并部署一个监听 Slack 对话、存储事实并回答问题的 Slackbot。
推荐理由：LlamaIndex 官方教程从零搭建一个能监听 Slack 消息、用向量索引存储记忆并用 Qdrant 持久化的机器人，步骤完整可复现。
LlamaIndex 发布教程，讲解如何用 Ollama 在本地运行 Mixtral 8x7b 并结合 LlamaIndex 使用。Mixtral 是 Mistral AI 发布的八专家混合模型，各含 7B 参数，博客称其在多项基准上匹敌或超过 GPT-3.5 和 Llama2 70b。
推荐理由：原文提供从安装到建 API 的完整本地 Mixtral 流程，含代码和硬件要求，读者可以直接照做搭建本地 RAG。
Hugging Face 发布博客，介绍如何用 Latent Consistency LoRAs 将 SDXL 图像生成压缩到 4 步完成。
LlamaIndex 介绍如何在 RAG 中使用 LongLLMLingua，通过问题感知的粗粒度重排、细粒度提示词压缩和子序列恢复来增强 LLM 对关键信息的感知。
推荐理由：原文拆解了 LongLLMLingua 的粗细粒度压缩与重排细节，并给出在 LlamaIndex 中作为 NodePostprocessor 的用法，可迁移到自己的 RAG 成本优化。
LlamaIndex 用其 Retrieval Evaluation 模块，以 Hit Rate 和 MRR 两项指标评测多种 Embedding 模型（OpenAI、Cohere、Voyage、Jina、bge-large、Google PaLM 等）搭配不同 Reranker 的检索效果。
推荐理由：原文提供了可复现的评测脚本和各嵌入与重排模型组合的 Hit Rate 与 MRR 数据，读者可以照此在自己的数据上选型。
LlamaIndex 发布教程，介绍 LayoutPDFReader 如何结合层级布局信息解析 PDF，实现章节识别、段落合并、表格与列表处理等内容感知分块。文章给出接入 llmsherpa API 和构建 LlamaIndex 向量查询引擎的示例代码，并说明该工具仅支持带文本层的 PDF，暂不支持 OCR。
推荐理由：文章解释了 PDF 解析难点并给出 LayoutPDFReader 的层级解析与智能分块方法，含可直接复用的代码。
LlamaIndex 演示如何用 Response Evaluation 模块评测 RAG 系统的最佳 chunk size，以 Uber 2021 10K 文件为数据。
推荐理由：原文给出可复现的评测流程和具体数据，读者可以据此在自己的 RAG 场景中测试并选定合适的 chunk size。
LlamaIndex 发布端到端指南，教你在无标注的非结构化语料上用 LLM 生成合成问题对来微调开源嵌入模型 BAAI/bge-small-en。
推荐理由：原文提供了完整的无标注数据微调嵌入模型方法和评测结果，读者可以直接复用笔记本改进自己的 RAG 检索。
LlamaIndex 发布教程，展示如何用 text-to-SQL 数据集微调 Llama 2 并接入 LlamaIndex 对任意 SQL 数据库做结构化分析。
推荐理由：原文给出了微调 Llama 2 做 text-to-SQL 的完整技术栈和前后对比示例，可帮助读者评估微调对结构化分析场景的实际收益。
LlamaIndex 工程师在发布 LlamaHub Tools（含 Gmail、Google Calendar、Wolfram Alpha 等 15 个工具）后，总结编写 LLM Agent 工具的技巧。
推荐理由：作者结合 LlamaHub Tools 的开发实践，总结出输入容错、错误自恢复、日期函数等可直接套用的 Agent 工具编写方法。
LlamaIndex 在博客中展示新查询引擎 SQLAutoVectorQueryEngine，可同时利用 SQL 数据库和向量数据库回答同时涉及结构化与非结构化数据的自然语言查询。
推荐理由：原文给出 SQLAutoVectorQueryEngine 的工作流程、示例代码和实验结果，读者可以照着复现结构化与非结构化数据的组合查询。
Hugging Face 发布 StackLLaMA 教程，手把手讲解如何用 RLHF 方法训练 LLaMA 模型，覆盖完整训练流程。
推荐理由：这是一份手把手教程，讲解如何用 RLHF 训练 LLaMA，读者可跟随步骤复现完整训练流程。
Hugging Face 发布博客，讲解如何在 24GB 消费级 GPU 上用 RLHF 微调 20B 参数大语言模型，文中涉及 TRL 与 PEFT（见原文链接 https://huggingface.co/blog/trl-peft）。正文抓取失败，仅标题可用，更多细节以原文为准。
Hugging Face 发布系列教程第一篇，讲解如何用 Stable Diffusion 为 Unity 农场游戏确定美术风格。文章涵盖用 Automatic1111 WebUI 本地部署或在线运行的方法、借助 lexica.art 优化提示词的技巧，以及用概念图指导 Unity 场景搭建、材质、灯光和后期处理的完整流程。
推荐理由：系列第一篇给出用 Stable Diffusion 生成美术概念图并落地到 Unity 场景的完整步骤，方法可直接迁移到游戏开发流程。