Foundation Model 开发速查表
发布全新资源 FM Dev Cheatsheet，这是一份面向 Foundation Model 开发的实用速查表。该资源旨在为开发者提供基础模型开发全流程的关键参考信息，涵盖架构设计、训练优化及部署等环节的核心要点，帮助快速查阅技术规范与最佳实践，提升开发效率与项目质量。
#开源生态
EleutherAI：Blog
LlamaIndex：产品、工程与评测精选AI 评分6161 LlamaIndex v0.10 发布：拆分 llama-index-core 与集成包并弃用 ServiceContext
LlamaIndex 发布 v0.10.0，是其 Python 包迄今最大更新。核心变化包括：拆出精简的 llama-index-core 包，数百个集成（150+ 数据加载器。
推荐理由：官方发布说明了包拆分、导入路径变化和迁移工具，正在迁移或维护 LlamaIndex 项目的开发者可以直接对照升级。
LangChain：BlogAI 评分4949 Connery：面向 OpenGPTs 和 LLM 应用的开源插件基础设施
Connery 发布开源插件基础设施，为 LLM 应用和 OpenGPTs 提供第三方服务集成能力，并管理运行时。它提供连接管理界面，支持 OAuth 授权、Secrets Management 密钥存储、个性化配置，以及 metadata、human-in-the-loop 和审计日志等 AI 安全控制。该项目还计划构建开源插件生态，让社区创建、分享和定制插件。
LlamaIndex：产品、工程与评测AI 评分4444 RAGArch：基于 LlamaIndex 的无代码 RAG 流水线配置与一键代码生成工具
RAGArch 是一款基于 LlamaIndex 的无代码 RAG 流水线配置工具，支持在 Streamlit 界面中交互式选择 LLM、嵌入模型、Node Parser、响应合成方法与向量存储，并用自己的数据实时测试效果。
LlamaIndex：产品、工程与评测AI 评分5252 LlamaIndex 教程：用 Nomic Embed 构建全开源 RAG 检索器
LlamaIndex 发布教程，演示如何用 LlamaIndex 与 Nomic Embed 构建完全开源的 RAG 检索器。
Mistral AI：News精选AI 评分8484 Mistral AI 发布开源稀疏专家模型 Mixtral 8x7B
Mistral AI 发布开源权重的稀疏专家模型 Mixtral 8x7B，采用 Apache 2.0 许可证，在多数基准上超过 Llama 2 70B 并以 6 倍推理速度匹配或超过 GPT3.5。
推荐理由：官方发布给出基准对比、参数与成本结构和开源部署方案，读者可以据此评估它在开放权重模型中的位置。
LlamaIndex：产品、工程与评测精选AI 评分6262 LlamaIndex 发布 AutoTranslateDoc 命令行工具，用 GPT 模型自动翻译技术文档
LlamaIndex 发布 AutoTranslateDoc，一款命令行工具，可从 GitHub 仓库抓取 .md 和 .mdx 文档，用 GPT-3.5、GPT-4 分块翻译并自动校验后合并输出。
推荐理由：工具通过分块翻译加多重校验来保证文档翻译质量，并支持差量更新，适合需要维护多语言文档的开发者参考。
LMSYS Blog Chatbot Arena更新：新开源模型领先，评分系统升级
Chatbot Arena平台已收集超13万张投票，对40余个模型进行排名。新加入的Tulu-2-DPO-70B和Yi-34B-Chat在开源模型中领先，性能接近GPT-3.5；基于Mistral的7B模型也展现强劲实力。平台正从Elo评分系统转向Bradley-Terry模型以提升稳定性。数据还显示GPT-4-0314与GPT-4-0613存在显著性能差异，而GPT-3.5-turbo-1106版本出现意外性能下滑。
LlamaIndex：产品、工程与评测精选AI 评分6262 LlamaIndex 推出 Llama Packs 预打包模块社区
LlamaIndex 推出 Llama Packs，一个社区驱动的预打包模块合集，用于快速启动 LLM 应用，已在 LlamaHub 上线 16+ 个与 Streamlit、Weaviate、Voyage AI 等伙伴合作的模板。模块可通过 CLI 或 Python 一行代码下载，支持开箱即用运行 RAG 管线，也可查看和修改全部代码，例如将默认 OpenAI LLM 替换为 Anthropic。
推荐理由：原文给出下载方式和代码示例，读者可以据此了解如何用预打包模块快速搭建 LLM 应用并自由定制。
EleutherAI：Blog 扩展 RoPE
EleutherAI 回顾了过去一年的研究工作，重点总结了在扩展 RoPE（旋转位置编码）方面的技术探索与成果。团队针对位置编码提出了优化方案，改进了旋转位置编码的基数调整与插值方法，显著提升了模型的长上下文处理能力。相关进展为大规模语言模型突破上下文长度限制提供了新的技术路径与实验数据。
LlamaIndex：产品、工程与评测AI 评分3737 LlamaIndex 一周年：从 GPT Index 到近 90 万月下载量
LlamaIndex 迎来一周年，这个最初名为 GPT Index 的项目已积累超 450 名贡献者、近 3000 个开源项目依赖，月下载量近 90 万次。项目始于为 GPT-3 补充上下文知识的设想，如今 RAG 已成为主流方案，即便 GPT-4-Turbo 的 128,000 tokens 上下文也不足以容纳中等规模数据集。
LlamaIndex：产品、工程与评测AI 评分4949 LlamaIndex 周报：Arize AI 可观测性集成、RetrieverEvaluator 与多文档 Agent
LlamaIndex 发布与 Arize AI Phoenix 的一行代码集成，为所有 RAG/agent 流水线提供全链路追踪与可观测性，数据可本地存储并支持导出 trace 用于评测。
Mistral AI：News精选AI 评分8282 Mistral AI 发布首个开源模型 Mistral 7B
Mistral AI 发布公司宣言并开源首个 7B 参数模型 Mistral 7B，采用 Apache 2.0 协议，在标准英文和代码基准上超越所有现有 13B 以下开源模型。官方称三个月内组建团队并从零搭建 MLOps 栈与数据处理管线，同时开设 GitHub 仓库和 Discord 频道，未来将陆续发布更大模型。
推荐理由：Mistral AI 阐明开源路线并发布首个模型，读者可了解其定位与 Mistral 7B 的实际性能表现。
Mistral AI：News精选AI 评分8787 Mistral AI 发布开源模型 Mistral 7B，性能超越 Llama 2 13B
Mistral AI 发布 7.3B 参数开源模型 Mistral 7B，采用 Apache 2.0 许可证。官方重跑评测显示其在所有基准上超过 Llama 2 13B，在多项基准上超过 Llama 1 34B，代码性能接近 CodeLlama 7B。
推荐理由：官方发布给出了与 Llama 2 全面的对比评测数据和 GQA、SWA 技术细节，模型以 Apache 2.0 开源可商用。
LlamaIndex：产品、工程与评测AI 评分4949 LlamaIndex 更新：开源 SECInsights.ai 与 Replit 模板等多项功能发布
LlamaIndex 开源了 SECInsights.ai，加速生产级 RAG 应用开发，并推出 Replit 模板实现零环境配置启动项目。新版本还带来线性适配器微调、层级 Agent、SummaryIndex 重命名及 RAG 评估工具包，检索优化可带来 10–20% 效果提升。
LlamaIndex：产品、工程与评测AI 评分3939 LlamaIndex 更新：Sweep AI 代码分割器、Graph RAG 与 Neo4j 集成等新功能
LlamaIndex 发布多项更新，包括面向 RAG 应用的 Sweep AI 代码分割器（支持 100+ 语言的递归分割与 CST）、Graph RAG 方案，以及与 Neo4j 合作的知识图谱集成。默认 LLM 改为 gpt-3.5-turbo，默认 temperature 调整为 0.1，并新增一行代码接入 Weights & Biases、ArizeAI、TruEra 的一键可观测性。
LangChain：Blog精选AI 评分6060 LangChain 实战教程：用 LangSmith 微调并评测 LLaMA2-7b-chat 与 gpt-3.5-turbo
LangChain 发布微调与评测指南，用 LangSmith 做数据集管理和评测，在 CoLab 上以 qLoRA 微调 LLaMA2-7b-chat，并用 50 条样本微调 OpenAI 的 gpt-3.5-turbo，测试任务是知识图谱三元组抽取。
推荐理由：原文给出了从数据集管理到评测的完整微调流程和实测分数，读者可以据此判断小模型微调与 GPT-4 few-shot 的取舍。
EleutherAI：Blog EleutherAI 对 EU AI Act 的观点
EleutherAI 阐述其针对欧盟AI法案（EU AI Act）支持开源与开放科学的立场及具体策略。该AI研究机构就欧盟人工智能监管法规提出系统性建议，主张在合规框架内保障开源模型开发与科学研究的开放性，致力于平衡AI安全监管与技术创新自由，确保开源社区在严格监管环境下仍能持续发展并促进技术民主化。
LlamaIndex：产品、工程与评测AI 评分5555 LlamaIndex 发布 TypeScript 版 LlamaIndex.TS v0.0.1
LlamaIndex 宣布推出 v0.0.1 的 LlamaIndex.TS，一个 TypeScript 优先的库，帮助开发者将私有数据与大语言模型结合。
LMSYS Blog LMSYS Org 发布 Chatbot Arena 人类偏好数据集
LMSYS Org 发布 Chatbot Arena 两大人类偏好数据集：33K 条真实对话（涵盖 GPT-4、Claude 等 20 个模型）及 3K 条 MT-bench 专家标注。平台上线三个月已收集 19K 独立 IP 的 53K 次投票，覆盖 22 个模型。最新排行榜新增 LLaMA 2、Claude 2 等模型。MT-bench 评估显示人类与 GPT-4 评判一致性超 80%。数据包含真实场景下的模型输出，可用于 RLHF 训练与模型安全研究。
LlamaIndex：产品、工程与评测AI 评分3838 LlamaIndex 更新：与 Anyscale 合作提速 10 倍，发布 0.7.0 版本
LlamaIndex 与 Anyscale 合作，借助 Ray 平台将运行速度提升 10 倍并简化生产部署。0.7.0 版本增强了模块化，新增 OpenAI、Hugging Face 等原生 LLM 抽象和独立 Response Synthesis 模块。此外还引入递归检索、DePlot 图表解析、GitHub Issues 读取器及改进的 text-to-SQL 能力。
LMSYS Blog 开源 LLM 的上下文长度承诺究竟能兑现多少？
LMSYS Org发布LongChat-7B与LongChat-13B模型，通过压缩旋转位置编码技术将LLaMA的上下文窗口从2K扩展至16K tokens。模型基于8万条（7B）和1.8万条（13B）curated对话数据微调，训练成本分别为300美元与700美元。评估显示，LongChat-13B的长程检索准确率较MPT-7B-storywriter等开源模型提升2倍，在MT-Bench基准测试中表现优异，显著缩小了与Claude-100K、GPT-4-32K等商业长文本模型的差距。
LlamaIndex：产品、工程与评测AI 评分3333 LlamaIndex 与 Prem AI 完成集成，为 AI 开发带来隐私保护
LlamaIndex 与 Prem AI 宣布完成集成，开发者可将 Prem 的自托管 AI 模型与 LlamaIndex 数据框架结合，轻松连接自定义数据源到大语言模型，简化数据摄取、索引和查询流程。教程演示了用 Redis 作向量库、Vicuna 7B Q4 生成回答、All MiniLM L6 V2 生成嵌入向量的"与数据对话"用例。
LMSYS Blog Chatbot Arena第8周榜单：推出MT-Bench与Vicuna-33B
Chatbot Arena发布第8周排行榜，新增Vicuna-v1.3系列开源模型（7B-33B参数）及MT-Bench评估基准。MT-Bench包含80道多轮题目，涵盖写作、推理等8类，由GPT-4评分。新榜采用三项指标：基于4.2万匿名投票的Arena Elo、MT-Bench分数及MMLU。结果显示，GPT-4以8.99分和1227分领先，Vicuna-33B获7.12分，性能接近Claude与GPT-3.5-turbo。
LlamaIndex：产品、工程与评测AI 评分5959 LlamaIndex 获得 Greylock 领投的 850 万美元种子轮融资，定位 LLM 数据框架
LlamaIndex 宣布获得由 Greylock 领投的 850 万美元种子轮融资，定位为连接私有数据与 LLM 的数据框架。项目上线六个月内获得 16K GitHub Stars、20K Twitter 粉丝、20 万月下载量和 6K Discord 活跃用户，Instabase、Front、Uber 等公司已开始试用。
EleutherAI：Blog Safetensors 通过安全审计并将成为默认格式
Hugging Face 联合 EleutherAI 与 Stability AI 委托 Trail of Bits 对 Safetensors 库完成独立安全审计，结果证实该库安全可靠，具备成为默认格式的条件。三方组织宣布将推动 Safetensors 作为模型保存的默认格式。完整审计报告已公开发布，相关博客文章将进一步阐述该库的技术背景与后续实施计划。
LangChain：BlogAI 评分5656 LangChain 发布开源 Auto-Evaluator 托管应用与 API
LangChain 开源的 LLM 问答链自动评测工具现推出免费托管的 hosted 应用与 API，支持 Demo 和 Playground 两种用法，可自动生成 QA 测试集并给用户配置的 QA 链打分。
EleutherAI：Blog 使用 TransformerLens 对 TRLX RLHF Transformer 进行探索性分析
该研究利用 TransformerLens 可解释性工具，针对 TRLX 框架训练的 RLHF Transformer 模型开展探索性分析，系统展示了对齐后模型的内部工作机制。通过逐层可视化与激活分析，揭示了人类反馈强化学习训练过程中形成的特定注意力模式与表征结构，为理解大语言模型在 RLHF 微调后的行为机制提供了实证观察与可视化证据。
LMSYS BlogAI 评分7979 LMSYS 发布开源聊天模型 Vicuna-13B，用 ShareGPT 对话微调 LLaMA，训练成本约 $300
LMSYS 团队发布 Vicuna-13B，通过约 70K ShareGPT 用户共享对话微调 LLaMA，训练成本约 $300，代码、权重和在线 demo 以非商业许可公开。GPT-4 作为评审的初步评估显示其达到 ChatGPT/Bard 90% 以上质量，在 45% 问题上不逊于 ChatGPT；团队同时提出基于 GPT-4 的自动评测框架，并说明其尚非严谨方法。
EleutherAI：Blog EleutherAI 第二次回顾：长文版
EleutherAI 发布第二次年度回顾长文，梳理该开源 AI 研究组织过去一年的主要工作进展与成果。由于提供的正文仅包含引言部分，具体涉及的新模型发布、技术迭代、数据集更新及性能指标等关键信息未在现有内容中详细展开，无法提取详细的技术参数与量化数据。
EleutherAI：Blog 三万英尺视角：EleutherAI 第二份回顾报告序言
EleutherAI 发布第二份回顾报告序言，梳理该开源 AI 研究组织过去一年半的工作进展。文章从宏观视角概述了其在开源模型、工具开发及社区建设等方面的阶段性成果，为后续详细技术回顾提供背景脉络，但未披露具体性能指标与版本迭代细节。
EleutherAI：Blog GPT-NeoX-20B 正式发布
GPT-NeoX-20B 正式发布。这款拥有 200 亿参数的大规模语言模型由开发团队与云计算服务商 CoreWeave 合作训练完成。该模型在参数量级上达到 200 亿规模，通过双方协作完成训练流程，为自然语言处理研究和应用提供了新的基础模型选择。
EleutherAI：Blog 漫长而奇异的旅程：EleutherAI 一周年回顾
EleutherAI 在成立一周年之际回顾转型历程，从松散志愿者社区发展为正式开源 AI 研究机构，期间发布 GPT-Neo（27 亿参数）、GPT-J（60 亿参数）等大语言模型及 The Pile（825GB）数据集，推动大模型训练民主化。首年成果为开源社区提供了可商用的 GPT 替代方案，标志着去中心化 AI 研究模式的成熟。
EleutherAI：Blog 为何发布大语言模型？
创造并开源大语言模型对AI安全具有净收益价值。文章论证了公开发布大模型能够提升AI系统的安全性与透明度，详细阐述了支持开放源代码策略的核心理由，解释了这种发布方式为何有助于推动AI安全领域的整体发展，而非增加潜在风险。
OpenAI：官网动态AI 评分4545 OpenAI Baselines 新增 ACKTR 与 A2C 实现
OpenAI 发布两个新的 Baselines 实现：ACKTR 和 A2C。A2C 是 A3C 的同步确定性变体，性能与之相当；ACKTR 比 TRPO 和 A2C 更具样本效率，每次更新仅比 A2C 略多计算量。