AI 构建者基础:Token、上下文窗口与 RAG 入门指南
Google AI 发布了一期面向开发者的视频,系统讲解 LLM 核心概念。视频解释了 token 作为模型输入输出基本单元的含义,介绍了检索增强生成(RAG)如何为模型提供训练数据之外的额外信息,并说明了上下文窗口(即模型可处理的 token 数量)近年来大幅增长的趋势。视频还指出,给大语言模型提供更多上下文通常能提升回答质量。
Google AI 发布了一期面向开发者的视频,系统讲解 LLM 核心概念。视频解释了 token 作为模型输入输出基本单元的含义,介绍了检索增强生成(RAG)如何为模型提供训练数据之外的额外信息,并说明了上下文窗口(即模型可处理的 token 数量)近年来大幅增长的趋势。视频还指出,给大语言模型提供更多上下文通常能提升回答质量。
Anthropic 产品设计师 Nate Parrott 分享了他在 Claude Design(beta 版)中利用 HTML 交互能力进行产品原型、幻灯片、动画等视觉创意探索与迭代的方法。他将 Anthropic 品牌规范提炼为提示词,使输出自动符合品牌指南。Claude Design 不包含图像模型,不适合 Logo 设计,但可与 Claude Code 协同工作,将早期创意与生产开发衔接。
Databricks 发布博客文章,探讨 AI 在医疗健康领域的应用场景与最佳实践。文章涵盖 AI 在医学影像分析、药物发现、电子病历处理及患者监测等方向的实际用例,并强调数据治理、模型可解释性与合规性等关键实施原则。
Databricks 发布了一份金融 AI 应用实用指南,系统梳理了机器学习与自然语言处理在风控、欺诈检测、算法交易及合规报告中的具体落地场景。指南强调利用 Lakehouse 架构统一数据与 AI 工作流,并给出了模型部署、特征存储及实时推理的工程实践建议。该指南面向数据科学家与金融工程师,旨在降低 AI 在金融领域的实施门槛。
Opus 5 在 ARC-AGI-3 上创下新 SOTA,达到 30%。 ARC-AGI-3 衡量的是无先验知识解决问题的场景——这正是扩展能力历来收效甚微的领域。令人印象深刻的飞跃!
On ARC-AGI-3, an evaluation where AI models must solve novel problems, Opus 5’s score is three times as high as the next best model.
我们为最新模型移除了约 80% 的 Claude Code 系统提示词,这是我们在编写系统提示词、技能和 Claude.MD 方面学到的经验。
Anthropic 发布 Claude 模型选择指南,将模型分为 Mythos/Fable(最强能力,用于前沿编码与智能体任务)、Opus(推理密集型企业任务)、Sonnet(日常通用任务)和 Haiku(最低成本与最快速度)四个类别。
Anthropic 为 Claude Opus 5 和 Claude Fable 5 等新一代模型删除了 Claude Code 超过 80% 的系统提示词,且编码评测无显著损失。
推荐理由:Anthropic 官方首次分享他们为 Claude 5 代模型移除了 Claude Code 80% 系统提示的实践,五条新规则颠覆了旧有的提示工程常识,每个用 Claude Code 或自建 agent 的开发者都该对照看看自己的系统提示是否在「过度约束」模型。
Google 在第二篇技术文章中展示了 Ray Serve、Ray Data 和 JaxTrainer 如何抽象化 TPU 切片上的 AI 工作负载复杂性。Ray Serve 通过简单拓扑配置实现多主机模型的 gang-scheduling,Ray Data 以原生 JAX 批次直接供给加速器以消除数据加载瓶颈,JaxTrainer 则自动处理跨切片协调、检查点与容错,简化分布式训练。
Anthropic 员工 Thariq Shihipar 介绍为 Claude 5 系列模型(如 Claude Opus 5 和 Claude Fable 5)做上下文工程的新方法:团队为这些模型删除了 Claude Code 超过 80% 的系统提示词,在编码评测上没有可测量的损失。
推荐理由:作者分享了为 Claude 5 系列模型做上下文工程的新原则,并给出可直接套用到 CLAUDE.md、Skills 和引用文件的落地建议。
月之暗面 Kimi K3 模型在 AA-Briefcase 基准测试中获 1543 分,超过 GPT-5.6 Sol(1501 分),仅次于 Claude Fable 5(1574 分)。该模型拥有 2.8 万亿参数和 100 万 Tokens 上下文窗口,输入费用每百万 Tokens 缓存命中 2 元、未命中 20 元,输出费用 100 元。
本教程构建了一套完整的 OCR 工作流,在 GPU 上加载百度 3B 参数的 Unlimited-OCR 视觉语言模型,支持 bfloat16/float16 自动选择。管线包含两种推理模式:Gundam 模式(分块高细节)和 Base 模式(单视图更快),并通过 PyMuPDF 和 infer_multi() 扩展至多页 PDF 解析,全程保留长上下文生成、重复控制和结构化输出设置。
Macaron V1 是基于 GLM-5.2 的后训练模型,采用全新 MoL 框架(冻结基座模型、仅在 LoRA 空间进行后训练),并将上下文窗口扩展至原生 2M。
Macaron V1是首个公开的GLM-5.2后训练模型,采用MoL框架冻结基座模型、仅在LoRA空间训练,并推出A2UI插件与Taste Skill,主打前端与UI生成能力。
LangChain 重新设计了 Deep Agents 的基准评测方式,并在 Harbor 平台上运行覆盖编码、对话和检索三类任务的评估流程。该评测方案用于指导 Deep Agents 的版本迭代与变更发布。
Deepdive: Kimi K3 max vs. GPT 5.6 Sol max on software engineering/DeepSWE tasks. Both of these models provide nice specializations and routing/cascading between them is the right way to go! full deep-dive 👇(1/n)🧵
Google Cloud Agent Skills 教程第二部分演示了如何通过 `google-cloud-recipe-auth` 技能自动验证认证状态,并指导 Cloud Run 服务访问 BigQuery 时的最佳实践。
Together AI 在 DeepSWE 上对比 Kimi K3 与 Claude Fable 5,共452次rollout。
推荐理由:原文基于452次rollout的完整对比数据,拆解了两款模型在覆盖与可靠性上的差异,可帮助读者按成本和重试策略选型。
我们更新了“缩放工具”操作指南。 当大图被缩小后,重要细节可能会丢失。缩放工具让 Claude 请求一个区域,并从全分辨率原图中获取该裁剪部分。
http://x.com/i/article/2079482473818333184
美国 FDA 基于 Databricks 数据平台构建了一套 AI 平台,目前已有 85% 的员工每日使用。该平台通过整合内部数据与 AI 能力,帮助监管人员更高效地处理药品审批、食品安全监测等核心任务。这一成果展示了基础数据平台在政府机构中推动 AI 落地的实际价值。
A delivery orchestration platform that supplies FedEx, estimated 7 to 8 months to rebuild their core system. We delivered in 3.5 months with 2 engineers and 122 merged pull requests in the first 90 days. I want to walk through how, because "we used AI and it was faster" doesn't help anyone. Their codebase had real users, real logistics operations, and real consequences if something broke. This is brownfield, not a weekend prototype demo. Week one, we didn't write code. We scanned the entire repo and built a knowledge graph: markdown files documenting every module, dependency, data flow, and domain term. Our agents read that graph before touching anything. Teams skip this constantly. They point an agent at a repo, hand it a ticket, and get code that compiles but misunderstands the architecture. I've seen it across 100+ engagements. When someone says "AI doesn't work on our codebase," they almost always skipped context acquisition. Every ticket ran a six-step loop: define, spec, plan, implement, test, document. The agent handles about 90% of code generation. A senior engineer reviews every PR, and nothing merges unless they can verify it, explain it, and debug it without the agent. We call that the V.U.E. gate. The 50% time reduction came from three things: upfront context eliminated false starts, the agent handled mechanical coding so engineers focused on design and review, and tight spec-to-PR discipline kept scope from drifting. AI compute: about $200 per developer per month. Their CTO called our pod the "top performing team" inside the company. Both engineers got discretionary bonuses, twice. That's what our Velocity Framework was built for.
Databricks 发布 Delegated IAM Permissions 功能,允许用户通过委托 IAM 权限直接连接 Amazon S3 数据,无需手动管理跨账户角色或访问密钥。该方案简化了 S3 连接配置流程,降低了安全风险,并支持细粒度权限控制。
穿得足够张扬,服装就会开始自己做决定。 由 Shan ul Haq 创作。使用 Luma 制作。
We've tested the Qwen 3.8 Max preview and it absolutely rocks! Each scene is built in one shot, a single Three.js file with nothing else added: • Odysseus' war galley riding the waves • Trojan horse • Greek war helmet Qwen managed to execute the task faster than the other models, while output quality is relatively the same across all of them. If the pricing stays close to Alibaba's previous flagships, we'll get one of the best speed/quality ratios on the market — perfect for running agents at scale. Soon live on AI/ML API.
Google Cloud 推出官方 Agent Skills 开源指令集,旨在让 AI 编码智能体安全、高效地执行多步骤云操作。该仓库基于 agentskills.io 开放标准,目前收录 70 多项技能,涵盖安全审计、无服务器部署、BigQuery 优化等 8 个类别。技能采用渐进式披露模型,通过验证工作流、安全门控和上下文感知机制,防止智能体盲目执行破坏性命令。
推荐理由:这是 Google Cloud Skills 系列教程第一篇,从安装到触发讲得很细,把 Agent Skills 的“渐进式披露”和安全门机制都拆解了,适合想让 AI 编码代理帮你管云资源的开发者。
蚂蚁 inclusionAI 开源自管多模型深度研究系统 PanelWise,多个研究 agent 独立检索撰写后经分析与合成生成最终结果。在 100 任务历史实验中,前沿组合得 73.68,超过当时记录的 OpenRouter Fusion 68.3;budget 组合得 66.42,成本约 $1.31/题,约为外部估计 $7/题的 19%。
推荐理由:其价值不在分数本身,而在公开了完整管线与实验中已知的协议差异,为复现和公平对比提供了可操作的起点。
开源语音识别领域已不再是Whisper一家独大。Cohere Transcribe(2B,Apache 2.0)以5.42%平均词错误率登顶Hugging Face开源ASR排行榜,但IBM Granite Speech 4.1 2B(5.33%)和ARK-ASR-3B(5.04%)紧随其后,榜首差距不足1个WER点。
施耐德电气利用 LangSmith 搭建企业级 LLMOps 基础,以提升 AI 产品的可观测性、评估与大规模部署能力。该实践聚焦于通过 LangSmith 实现对 LLM 应用的监控、调试与持续优化,从而保障生产环境的可靠性与效率。