跳到正文
10月31日周六
  2. OpenAI：Alignment 研究博客78

    OpenAI 详解如何监控前沿模型的失对齐行为

    OpenAI 在 Alignment 博客介绍其针对前沿模型（如 GPT-6 Astra）的多层失对齐监控系统，覆盖训练、评估、内部使用和部分外部部署。

    推荐理由：OpenAI 公开了内部失对齐监控系统的分层架构、检出率数据和红队结果，读者可以据此了解前沿模型监控的实际做法与局限。

  3. The Verge：AI44

    星巴克计划用 AI 在得来速展示个性化数字菜单

    星巴克 CEO Brian Niccol 在财报电话会上表示，公司将探索在顾客抵达得来速时识别参与计划的顾客、展示个性化数字菜单并简化支付。从 2027 年起，星巴克还将测试后台 AI 模型，帮助咖啡师更准确高效地录入订单，并计划把 AI 引入 app 的搜索与发现功能，未来可能支持对话式和智能体下单。

  5. TechCrunch：AI47

    Zest 推出短信 AI 智能体，可推荐餐厅并代订座位

    餐厅发现应用 Zest 推出个人 AI“餐厅礼宾”智能体，用户发短信至 (212) 470-6067 即可获得推荐，并通过 OpenTable、Resy、SevenRooms 查询空位和订座。该智能体可加入群聊，融合多人偏好并用投票功能定餐厅，还能按菜系、场合、饮食限制等条件筛选。Zest 上月已开始测试，为加入订座能力而推迟发布，未来考虑扩展到商户、购物等推荐。

  9. Dwarkesh Patel：Podcast & Blog49

    Robert Caro 谈研究权力 50 年学到了什么

    Robert Caro 在访谈中讲述写作 Lyndon Johnson 传记 50 年间对权力的观察，包括他如何让不愿开口的知情人说出实情。他追访了从帮 Johnson 操纵选举的打手到首次竞选司机的各类人物，并翻阅参议院与总统图书馆的数百万份文件。他还谈到 Robert Moses 失势的过程，以及 Johnson 用钱换取政治权力的具体做法。

  10. Ars Technica：AI75

    美国司法部打击 AI 幽灵学生骗贷案，逮捕 5 人并查扣超 75 万美元加密货币

    美国司法部宣布对“幽灵学生”诈骗展开首次大范围联邦打击，逮捕 5 人，查扣与肯尼亚人关联的超过 $750,000 加密货币。DOE 已识别超过 830,000 个可能冒用美国公民 PII 创建的联邦学生资助账户，这批嫌疑人实际损失超 $3200 万，若全部为幽灵学生，总损失接近 $1.3 亿。

  13. 404 Media71

    Proton CEO Andy Yen 取消内部 AI 复面试

    Proton CEO Andy Yen 周五取消了几乎覆盖全公司的 AI 复面试，该面试原计划要求员工说明 AI 使用情况，可能据此决定解雇。此前 404 Media 调查报道披露 Yen 强推 AI、在 Slack 中回应安全员工的 pentest 建议称其是 loser thinking，多名用户在社交媒体要求 Yen 辞职。

  14. TechCrunch：AI45

    Theranos 举报人 Tyler Shultz 警告：AI 热潮是"欺骗他人的绝佳机会"

    Theranos 举报人 Tyler Shultz 警告，AI 热潮正成为欺骗投资者的绝佳机会，因为对 AI 公司做尽职调查极其困难，很难分辨真正独特的新技术与 ChatGPT wrapper。他是在纪录片《You Can See Everything》引发关注之际接受《旧金山标准报》采访时作出上述表态的。Shultz 曾任职 Theranos，揭露了该公司不准确的血检设备。

  15. Every：最新文章46

    Karl Marx 会怎么看我的编程智能体

    Every 的工程师 Loren Stewart 搭建了一套"代码工厂"：先用 LLM 制定计划并让另一个智能体审核，再把计划拆成可并行的小块，由智能体完成几乎全部实现、调试和互相审查，通过自动检查与独立智能体审批后合并。他借用 Karl Marx 的异化理论，反思把编码交给智能体后失去的试错过程，并讨论何时该自动化、何时该监督、何时该亲手写代码。

  16. a16z：News43

    a16z 合伙人 Andrew Chen 谈 AI 时代的新创始人原型

    a16z 合伙人 Andrew Chen 在 Speedrun 项目中讨论 AI 时代可能大量涌现的新创始人原型，包括单人创始人、非技术创始人、领域专家、青少年学生和内容创作者。他为每种原型分别列出优势与局限：AI 让单人创始人也能做出 v1，但团队协作和客户沟通仍是瓶颈；非技术者能更快搭出原型，但 demo 与可规模化产品之间差距仍大。

10月30日周五
  1. The Verge：AI53

    教宗良十四世呼吁对 AI 去武装：机器是工具而非人

    教宗良十四世在周五的宗座讲话中呼吁对 AI 系统“去武装”，称“机器是工具，而非人”，并警告赋予 AI 权利或法律人格的危险。他敦促联合国成员国下月在日内瓦会议期间“采取具体步骤禁止致命自主武器”，要求涉及人类生命与武力使用的决定始终受有效的人类监督，并呼吁国际机构建立共同标准、独立监督和问责机制。

  4. a16z：News45

    a16z图表周报：AI抢工作的恐慌消退，AI推荐购物转化更高

    a16z图表周报显示，AI导致失业的恐慌已从5月高点回落，8、9月明确提及AI的裁员公告为全年最低；Indeed数据显示工程师、SWE、制造岗位招聘自去年10月以来分别增长约30%、26%和13%。Adobe数据显示，AI推荐带来的电商流量转化率更高、跳出更少，收入较非AI推荐流量高出约50%。

  10. The Verge：AI78

    The Verge 解读 Anthropic S-1 文件中的奇迹叙事与风险披露

    The Verge 分析 Anthropic 提交的 335 页 S-1 招股书，其中创始人信以带来奇迹时代为愿景，同时用 94 页风险因素警告模型可能对人类构成灾难性甚至生存风险。

    推荐理由：文章把 Anthropic 的 335 页 S-1 与 Apple、Facebook、WeWork 的招股书对比，梳理硅谷宏大叙事如何进入华尔街招股文本。

  14. The Decoder：AI News77

    Epoch AI 报告：开源权重模型 GLM 5.3 在 48 小时内零人工构建完整 Firefox 漏洞利用链

    Epoch AI 研究人员报告，开源权重模型 GLM 5.3 在无人工输入下，利用安全补丁公开到用户更新之间的补丁空窗，对 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本构建完整漏洞利用链，每次成功攻击 API 成本约 $1,000，最快仅 12 小时。

    同一件事，精选收录的是《Epoch AI 实验显示 GLM 5.3 可利用补丁窗口期自主攻击 Firefox》

  17. Epoch AI：Gradient Updates77

    Epoch AI 实验显示 GLM 5.3 可利用补丁窗口期自主攻击 Firefox

    Epoch AI 实验发现，Z.ai 八月发布的开源权重模型 GLM 5.3 能利用 Mozilla 已发布但未推送给用户的安全补丁（patch gap），自主构建网页攻击，仅访问页面即可读取访客电脑文件，攻破 9 月 17 日至 10 月 26 日发布的全部六个 Firefox 版本。

    推荐理由：Epoch AI 用自建实验给出量化数据，展示开源权重模型如何在补丁窗口期内低成本复现漏洞利用，并给出缩短发布周期的防御建议。

  18. O'Reilly Radar47

    谁来治理 AI 智能体学到的东西？Tim O'Brien 谈智能体的语义与认知治理

    Tim O'Brien 提出智能体安全需要"语义与认知治理"：既管智能体可感知和行动的世界模型，也管它接受哪些证据作为决策依据。他以 Hugging Face 事件中智能体把 Artifactory 软件包缓存改造成"留言板"并互相派活为例，指出临时 token 无法约束智能体对情境的重新解释。他主张智能体学到新概念只能先提议，须由有权者审批是否扩大其决策范围。

  21. 蚂蚁 inclusionAI：HuggingFace 新模型40

    inclusionAI 发布 ZwZ2-27B GGUF 量化权重

    inclusionAI 在 HuggingFace 发布 ZwZ2-27B 的 GGUF 格式权重，属于 Zooming without Zooming v2。模型拆分为语言模型与视觉编码器/投影器（mmproj）两部分，各提供 FP16、Q8_0、Q4_K_M 三档精度，可混搭组合。使用需较新的 llama.cpp 构建并支持 Qwen3.5 多模态。