内容类型
拿来就能用的实操内容：提示词技巧、工作流搭建、工具用法与踩坑经验。
562 条精选近 30 天 76 条共收录 2,922 条
Hugging Face的kernels库简化了高性能深度学习内核的构建与共享，支持CUDA、ROCm等多种后端。本文以ROCm兼容内核为例，展示如何利用kernel-builder工具构建、测试并共享内核。以RadeonFlow的GEMM内核为具体案例，该内核是针对AMD Instinct MI300X GPU优化的FP8块状矩阵乘法实现，采用e4m3fnuz浮点格式和每块缩放因子以保持低精度计算准确性，并在2025年AMD开发者挑战赛中获最高奖。指南涵盖项目设置、构建配置及通过kernels社区分享的完整步骤。
推荐理由：AMD GPU开发者可快速上手构建高性能AI内核，提升部署效率。
AI建议愈发关键，亟需建立系统化评估机制。通过工作面试般的严格测试，全面检验AI的实际能力与可靠性，确保其建议值得信赖。
推荐理由：Ethan Mollick 分享通过'工作面试'法系统评估 AI 能力的实用框架
LLM 生成界面常因"分布收敛"而陷入 Inter 字体配紫色渐变的同质化设计。Anthropic 建议通过 Skills 功能解决：将排版、动画、配色等设计规范存入独立 Markdown 文件，Claude 可在构建页面时动态加载，无需永久占用系统提示词。这种按需加载机制既保持上下文窗口精简以维持模型性能，又能让 AI 生成摆脱默认审美、更具品牌辨识度的定制化界面。
推荐理由：Claude官方分享通过Skills解决AI生成界面同质化问题的实践技巧，附字体与主题优化Prompt示例。
LangChain 重建了 chat.langchain.com，弃用分块加向量数据库的检索方案，改为让智能体通过 Mintlify API、知识库标题扫描和 ripgrep 代码搜索直接访问文档、知识库和代码库的原始结构。
推荐理由：原文复盘了放弃向量嵌入、改用直接 API 访问和子图分域的重建思路，含工具设计与性能数字，方法可迁移到类似问答智能体。
随着AI智能体通过模型上下文协议（MCP）连接的工具数量激增，传统预先加载所有工具定义并通过上下文传递中间结果的方法，导致处理速度变慢、成本增加。问题核心在于工具定义占用大量上下文空间，且中间结果（如完整会议记录）在多次工具调用间重复传递，额外消耗数万令牌。文章提出解决方案：将MCP服务器呈现为代码API，使智能体能按需加载工具，并在执行环境中处理数据，仅将精简结果传回模型，从而显著减少令牌消耗、提升效率并降低成本。
推荐理由：Anthropic 官方把 MCP 从「能连」推进到「连多了怎么办」，用代码执行替代直接工具调用，token 省 98.7% 这个数字不是吹的。做 Agent 工程的人如果还在暴力塞 tool definition，这篇是必读的架构升级指南。
与 NVIDIA 合作，在 DGX Spark 上通过 SGLang 成功支持 GPT-OSS 20B 与 120B 模型，实现 20B 版本约 70 tokens/s、120B 版本约 50 tokens/s 的生成速度，达到目前最优水平。用户可通过 Docker 部署 SGLang 服务，接入 Open WebUI 实现本地聊天，或借助 LMRouter 转换请求格式以完全本地化运行 Claude Code。该方案使在 DGX Spark 上部署多百亿参数本地编码智能体成为现实。
推荐理由：DGX Spark本地跑通Claude Code完全离线，隐私敏感开发者的新选择
Claude 发布金融服务 AI 代理构建指南，分享 NBIM、Brex 等机构实践。NBIM 员工每周节省数百小时，McKinsey 研究显示欺诈检测生产力可提升 200% 至 2000%。AI 代理能自主整合多源数据、执行跨系统操作，在合规框架下处理客户服务与风险分析，将传统分析工具升级为可独立完成交易的自主系统。
推荐理由：Anthropic官方分享金融AI智能体落地实践，含NBIM、Brex等真实案例与效率数据。
Hugging Face 发布开源 OCR 模型指南，并新增 Chandra 和 OlmOCR-2 及其在 OlmOCR Benchmark 上的分数（Chandra 83.1±0.9，OlmOCR-2 82.3±1.1）。
推荐理由：这篇指南梳理了主流开源 OCR 模型的能力、输出格式与成本对比，并给出按使用场景选型的具体方法。
Answer.AI 的 Kerem Turgutlu 撰文讲解如何用 SolveIt 把 Andrej Karpathy 超两小时的 tokenizers 视频教程转成带可运行代码、超链接和图片的书章。
推荐理由：作者完整复盘两阶段对话工作流，把超两小时视频转成可运行代码的书章，方法可直接迁移到任意长视频转写场景。
Answer.AI 推出五周课程 How to Solve It with Code 及配套平台 Solveit，10 月 20 日开课，报名开放至 10 月 20 日。
推荐理由：原文详述了 Solveit 平台与课程的迭代式人机协作方法及其设计取舍，读者可以借此对照自己的 AI 辅助编码工作流。
Anthropic@AnthropicAI精选推荐理由：Anthropic提出「上下文工程」方法论，指导开发者优化AI Agent设计
作者发布 VibeGame，一个构建在 three.js、rapier 和 bitecs 之上的高层声明式游戏引擎，专为 AI 辅助游戏开发设计。
推荐理由：作者实测了 Roblox MCP、Unity MCP 和 Web 三种方案的优劣，并据此开源了一个面向 AI 游戏开发的声明式引擎，思路和踩坑都可借鉴。
随着AI应用从单次提示转向构建长期运行的智能体，焦点正从“提示工程”演进为“上下文工程”。后者旨在为大型语言模型优化有限的上下文窗口内的全部信息，包括指令、工具、外部数据和对话历史。其核心挑战在于模型存在“注意力预算”限制和“上下文腐化”现象——随着上下文增长，模型回忆信息的准确性会下降。因此，上下文工程要求精心编排高价值信息，以有限的资源最大化产出期望结果，这已成为构建高性能、可操控智能体的关键。
推荐理由：Anthropic 亲自下场定义 context engineering 这个新范式，把 prompt engineering 之后的工程方法论讲透了。做 Agent 的人如果还在死磕 prompt，这篇会让你重新审视整个技术栈。
Hugging Face 发文介绍为让 OpenAI GPT-OSS 系列在 transformers 上高效运行所做的库升级，包括可从 Hub 下载的零构建内核、MXFP4 原生量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与更快的模型加载。
推荐理由：原文详解 transformers 为支持 GPT-OSS 引入的内核下载、MXFP4、张量与专家并行等升级，多数特性可复用到其他模型。
文章探讨如何为基于大语言模型的智能体设计高效工具。核心方法是通过与智能体（如Claude Code）协作，采用快速原型构建和全面评估的迭代流程来优化工具性能。关键设计原则包括：选择适当的工具实现范围，使用命名空间明确功能边界，从工具向智能体返回有意义的上下文，优化响应以提高token效率，以及对工具描述进行提示词工程。工具本质上是确定性系统与非确定性智能体之间的新契约，设计应优先考虑智能体的使用体验，而非传统开发者导向的API思路，以扩大智能体解决实际任务的能力。
推荐理由：Anthropic 把自家内部反复打磨的 agent 工具开发方法论完整公开了，从评估流程到 prompt 工程细节全是实操干货，做 MCP server 或 agent 工具链的人可以直接抄作业。
LLM推理的再现性是科学进步的基础，但即使在温度设为0的贪心采样下，ChatGPT等API以及vLLM、SGLang等自托管推理引擎仍无法保证确定性结果。常见的“并发+浮点非结合性”假设并不完整——GPU上重复执行相同矩阵乘法结果完全一致。真正原因在于：部分GPU内核是非确定性的，但LLM前向传播使用的内核均为确定性；推理服务器前向传播本身是确定性的，用户感知的非确定性源于浮点运算非结合性在不同聚合顺序下导致的细微数值差异。文章揭示了这一误解，并探讨如何实现真正可重现的LLM推理输出。
推荐理由：Horace He 把 LLM 推理非确定性的锅从并发浮点转向 batch-size，并给出了可落地的 batch-invariant 内核实现，做推理部署和 RL 的工程师都该看看。
Hugging Face 发布教程，介绍如何在 ZeroGPU Spaces 中用 PyTorch ahead-of-time（AoT）编译优化 H200 上的图像和视频生成 demo。
推荐理由：官方教程给出在 ZeroGPU Spaces 上接入 PyTorch AoT 编译的完整步骤和 1.3 至 1.8 倍加速数据，方法可直接迁移到图像视频生成 demo。
Hugging Face 发布教程，介绍通过 Remote MCP server（https://huggingface.co/mcp?login）把 Claude 连接到 Hugging Face Spaces 生成图像，2025 年 10 月起需用 Add custom connector 方式添加。
推荐理由：教程给出了把 Claude 连接 Hugging Face MCP Server 调用 Krea 与 Qwen-Image 生成图像的具体步骤和适用场景。
Hugging Face 发布面向学术研究发现的 Research Tracker MCP，用户可在 huggingface.co/settings/mcp 搜索添加，供 Claude Desktop、Cursor、Claude Code、VS Code 等客户端使用。
推荐理由：原文把研究检索拆成手动、脚本、MCP 三层抽象，并给出可直接添加的 Research Tracker 入口，便于读者迁移到自己工作流。
OpenAI 发布 Cookbook 教程，讲解如何在本地硬件上用 LM Studio 运行 gpt-oss。LM Studio 是一款在本地硬件运行大语言模型的桌面应用，教程将引导用户完成本地运行 gpt-oss 的步骤。
推荐理由：OpenAI 官方 Cookbook 给出在本地硬件用 LM Studio 运行 gpt-oss 的完整步骤，可作为离线部署的操作参考。