跳到正文
今天10月19日周一3 条
  1. Hacker News:AI 热帖33

    为什么你需要自己运行 LLM 代理来掌握调用情况

    针对依赖第三方订阅前端调用 LLM 的现状,作者主张自建 LLM 代理:在单一端点统一接入多家供应商与模型,并记录哪个 key 在何时调用了哪个模型、状态如何。自建代理还可用虚拟 API key 避免主密钥散落各处,并在基础设施层快速切换模型与供应商。作者称借助代理 API,编码会话中出现缓存未命中时可在 20 秒内手工定位原因。

10月18日周日
  1. IT之家·人工智能59

    我国首个全国产十万卡 AI 超集群曙光 8000 真机亮相

    据央视新闻报道,我国首个全国产十万卡 AI 超集群曙光 8000 真机在 2026 全国高性能计算学术大会上亮相,并将发布十大重要应用成果。该系统走超算和智算原生融合路线,同一套算力底座既能跑高精度科学计算,也能跑大模型训练和推理;今年 8 月官宣投用时公布的峰值算力相当于全人类持续计算 200 年,目前支持新材料、创新药、人工智能等 26 个领域 300 多种计算任务。

10月17日周六
  1. 公众号:数字生命卡兹克67

    卡兹克实测37999元RTX Spark轻薄本:一周实现本地Token自由

    数字生命卡兹克分享华硕ProArt创16(RTX Spark N1X芯片、128G统一内存、37999元)的一周深度使用体验,该机全球开售时128G版本在京东几分钟内被抢空。

    推荐理由:作者用一周实测讲清了如何在128G统一内存的RTX Spark笔记本上部署本地模型,并给出可复用的WorkBuddy专家整合流程。

  2. OpenClaw:Blog32

    PJ 如何帮小企业上手并自主运行 OpenClaw

    工程师出身的 PJ 在佛州 Ocala 经营虫害防治公司期间深度使用 OpenClaw,随后转型为顾问,帮屋顶、泳池、汽车等本地小企业部署 OpenClaw 并培训其自主运行。他的客户不愿把公司数据交给软件、被平台锁定,看重装在办公室电脑里的 OpenClaw 归自己所有。66 岁的行政人员 Donna 每天使用 OpenClaw,称已无法想象没有它的工作。

10月16日周五
  1. meng shao67

    Perplexity 团队(@denisyarats)宣布开源内部 agent 安全运行时沙箱平台 SPACE,GitHub 地址为 https://github.com/perplexityai/SPACE,该平台支撑其 Computer 产品及 RL 训练与评测负载。

    引用Denis Yarats@denisyarats

    we open-sourced SPACE, the sandbox platform we use internally for secure agentic runtimes. it powers Computer as well as our RL training and evaluation workloads. https://github.com/perplexityai/SPACE

  2. StepFun56

    阶跃星辰发推感谢 RadixArk 为 Step 5 Preview 提供生产环境推理支持。被引用的 RadixArk 祝贺 Step 5 Preview 开放权重,称其以 SGLang 及缓存感知路由栈支撑阶跃星辰第一方生产 API,在严格延迟要求下实现高效的 token 经济性,并邀请用户用 SGLang 部署 Step 5 Preview。阶跃星辰表示很高兴看到 SGLang 在真实工作负载上实现高效可扩展推理。

    引用RadixArk@radixark

    Congratulations to @StepFun_ai on Step 5 Preview going open weights! RadixArk is proud to help power StepFun's first-party production API with SGLang at scale. Production inference means great token economics under strict latency requirements. SGLang and its cache-aware routing stack now bring that to Step 5 Preview in proven production traffic. Building with Step 5 Preview? Deploy with SGLang today!

  3. GitHub Blog50

    GitHub 如何用 Evergreen 自动化共享组织的访问审查与仓库清理

    GitHub 用原生功能构建的 GitHub App Evergreen,通过两个工作流自动化组织卫生:每季度审查外部协作者访问权限,未响应即默认撤销;检测并归档长期无人类活动的仓库,且从不删除仓库内容。它由 Go webhook 服务器驱动,状态以 JSON 文件提交到 controller repo,用 git 历史充当审计记录,决策通过仓库内的 checklist issue 完成。

  4. LMSYS Blog64

    SGLang 为 816B 开源多模态 MoE 模型 Muse Spark Open 提供 Day-0 支持

    SGLang 团队宣布对 Meta 开源多模态 MoE 模型 Muse Spark Open(816B 参数、约 42B 激活、1M token 上下文)提供 Day-0 推理支持,权重提供 NVFP4 和 BF16 两种格式。

    推荐理由:原文给出了多平台推理与 RL 训练支持的完整细节和实测吞吐数据,读者可以据此评估大规模部署该模型的可行路径。

  5. Apple Machine Learning Research60

    Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型

    Apple 机器学习研究团队演示如何在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open 等前沿模型,使用今天发布的新版 MLX(v0.30.1 起)与 macOS 26.2 的 RDMA over Thunderbolt 驱动。

    推荐理由:Apple 给出了在 Mac Studio 集群上跑 816B MoE 模型的并行方案与基准数据,可迁移到本地大模型部署实践。

10月15日周四
  1. Databricks:Blog29

    FactSet 如何用 Databricks AI Runtime 将 TTF 模型训练部署从数天缩短到数小时

    FactSet 借助 Databricks AI Runtime 的无服务器 GPU 基础设施,将其 Text-to-Formula(TTF)模型的搭建、训练与部署周期从数天缩短到数小时。该团队每两到三周微调一次基于 Llama 的模型,此前引入微调模型已使端到端延迟降低约 60%。训练流程与 MLflow、Lakehouse 治理环境打通,无需单独维护 GPU 栈。

  2. IT之家·人工智能61

    Anthropic 弃用 Git,自研版本控制系统 Scion

    Anthropic 宣布弃用 Git,改用自研版本控制系统 Scion,将提交、合并、变基和文件历史查询等操作放到服务器端执行。原因是其代码合并量从 5 月日均 2500 次增至 9 月超 3 万次,Git 已无法满足需求;Scion 的 CPU 和内存消耗仅为 Git 的两百分之一,CI 和研究任务代码检出从几分钟缩短到几秒。