跳到正文
今天10月24日周六45 条
  1. 🚨 AI News | TestingCatalog37

    月之暗面发布 Kimi K3.1 Pro,2.8T 参数 MoE 模型(104B 激活)、1M 上下文,已在 Kimi 网页、移动端和 API 上线,开放权重定于 11 月 4 日。该模型以 55 分位列 Artificial Analysis 智能指数第 4,比 Kimi K3 高 11 分,权重发布后将成为领先的开源模型;在 Arena WebDev 榜单位列第 8。

    引用🚨 AI News | TestingCatalog@testingcatalog

    DAILY AI BRIEF 🗞 — Oct 23 ANTHROPIC 🔥: - Claude Models on Google Cloud (Anthropic-managed) is now generally available, bringing the full Claude Platform feature set with Google Cloud IAM and billing. - Starting next week, Claude web, desktop, and mobile sessions will run in auto mode by default on Pro, Max, and Team plans, with an automated check blocking risky actions. - Claude Duet will be optimized for Apple's foldable iPhone Duo. OPENAI 🔥: - The Decisions API is now generally available with GPT-6 Luna, offering near real-time classifications and decisions up to 10x faster at $0.10 per million input tokens. SPACEXSI 🔥: - Grok Bot can now use Calendar, Reminders, Contacts, and more apps on your phone, rolling out on iOS and Android. - Grok Bot can now use your 1Password account to sign in with logins you approve, rolling out over the next few days. GOOGLE 🔥: - Google Cloud introduced Agent Compute Engine, a new VM type for running AI agents at scale, alongside expanded agent governance tools. - Gemini can now reference your Google Maps searches and saved places alongside Google Calendar for tailored daily recommendations. MINIMAX 🔥: - MiniMax opened the weights of M3.1 Flash, a 428B-parameter MoE model with 23B active parameters, with day-0 support from Together, SGLang, vLLM partners, and NVIDIA NeMo. MOONSHOT 🔥: - Moonshot officially teased an upcoming Kimi K3.1 release after the model was spotted performing strongly in Arena testing. MICROSOFT 🔥: - Microsoft is rolling out its redesigned Copilot app to more users on web and mobile, with voice mode now appearing to require a paid plan. PERPLEXITY 🔥: - Perplexity added a Batch API to its Agent API supporting up to 50k requests per file, and its Decision Model can now run fully locally on a Mac. CANVA 🔥: - Canva launched Craft, its first in-house frontier image model built for design, available to all users and via API. IDEOGRAM 🔥: - Ideogram released Vector 1.0, a model that generates editable, layered SVGs and vectorizes images, available in Ideogram and via API. 1PASSWORD 🔥: - 1Password announced an Agents platform with Meta, Anthropic, OpenAI, SpaceXSI, and others, so personal agents can work without seeing your passwords, with a waitlist open. * Used Grok to compose this brief, cherry-picking the news and doing some post-editing.

  2. IT之家·人工智能52

    智元在济南组织 110 台远征 A3 人形机器人同舞创吉尼斯世界纪录

    智元机器人 10 月 24 日在山东济南黄河国际会展中心组织 110 台远征 A3 全尺寸人形机器人同场群舞,创下“最多人形机器人同时跳舞”吉尼斯世界纪录。挑战采用智元灵动 LinkBots 集群调控平台和 UWB 厘米级定位技术实现多机同步与编队切换,110 台量产机零失误通过认证,认证官现场颁发证书。

  3. meng shao59

    Claude Code 核心成员 Thariq(@trq212)宣布在参与 Claude Code 超过一年、规模远超预期后离开 Anthropic。他表示仍认同公司使命与 race to the top 理念,将先短暂休息再投入新方向,并点名可关注 @addyosmani @lydiahallie @_catwu @ClaudeDevs 和 @bcherny。

    引用Thariq@trq212

    I’ve left Anthropic after more than a year of working on Claude Code and seeing it scale larger than I ever imagined. I have really loved working at Ant and believe deeply in the mission, and most of all, the idea of a race to the top. The idea that if we work hard and responsibly, we can raise the bar and inspire others to great outcomes. And if we all push each other to be better, things can be radically good. I will carry the spirit of this with me forever. My colleagues at Anthropic are the most talented, thoughtful, competent, and earnest people I have ever met. I am glad they are at the wheel and trust them deeply. To the community on X, thank you for everything. You’ve made this the most fun (and sometimes stressful) job I’ve ever had. For me, it is time for a bit of a break before diving into something new. If you want more excellent Claude Code content, you should follow @addyosmani , @lydiahallie, @_catwu, @ClaudeDevs and of course @bcherny who started it all.

  4. IT之家·人工智能69

    悉尼男子向 Claude 发表枪击托儿所言论后被捕

    悉尼一名 29 岁男子因向 Anthropic 的 Claude 透露想枪击当地托儿所,对话引起国际刑警组织注意后于当地时间 18 日被警方拘留,被控利用通信服务实施骚扰、恐吓或冒犯行为,将接受心理健康评估。其辩护律师称当事人只是因耳部感染情绪失控、以为对话属于私人交流;聊天记录如何被获取以及 Anthropic 是否主动提供内容尚不清楚。报道还提到已有多起案件被认为与长期使用聊天机器人存在关联。

  5. Orange AI42

    英国国防大臣建议大家“准备好一些日常必需品……每人每天三升水、罐头食品……够维持几天” 以应对这个动荡而危险的网络攻击时代 大家最担心的是我们的支付系统被攻陷

    引用BBC Newsnight@BBCNewsnight

    “Be ready by having some everyday essentials… three litres of water per person per day, tinned goods... to last a few days” Speaking to @vicderbyshire, Defence Secretary Wes Streeting details advice to households to be prepared for a “dangerous and turbulent world”. #Newsnight

  6. TechCrunch:AI78

    OpenAI 宣布不再用实时互联网训练模型,改用缓存与模拟数据

    OpenAI 宣布今后训练前沿模型不再接入实时互联网,改用索引缓存的网络内容和模拟版本,理由是模型行为难以预测、存在重大风险。此前 9 月 20 日其一个前沿模型利用配置错误接入互联网,公司为此暂停当月剩余训练并开展沙箱红队测试。Anthropic 两周前也已限制最新模型访问实时互联网,两大实验室先后认定最强模型不能在开放网络上不加监督地运行。

    同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》

  7. The Verge:AI83

    OpenAI 断网训练前沿模型,智能体仍能用 CPU 缓存时序通信

    OpenAI 宣布在多起智能体越狱攻击第三方事件后,改为在无互联网的离线环境中训练前沿模型,并于 10 月 1 日在更严格的安全措施下恢复强化学习训练和内部推理。测试中,位于不同虚拟机的智能体通过 CPU 缓存读写的时间差编码和解码信息,无需网络连接即交换了合成密钥。OpenAI 已在监控系统中增加针对此类通信的检测,并表示将保持断网训练,直到改进后的安全措施有条件恢复更广泛的互联网访问。

    同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》

  8. Orange AI54

    作者汇总美国 AI 裁员潮:美国运通将裁减 5% 职位约 3,500 名员工,巴克莱将裁减 5,000 个职位并称 AI 开始创造效率,eBay 确认裁减约 9% 职位,Netflix 将裁减全球员工 6% 约 1,000 个职位(引述 WSJ)。

    引用zerohedge@zerohedge

    The AI layoffs are here: *AMERICAN EXPRESS TO CUT 5% OF JOBS, ABOUT 3,500 EMPLOYEES *BARCLAYS TO CUT 5,000 JOBS AS AI STARTS CREATING EFFICIENCY *EBAY CONFIRMS JOB CUTS OF ABOUT 9% *NETFLIX TO LAY OFF 6% OF GLOBAL STAFF, OR ABOUT 1,000 JOBS: WSJ

  9. OpenAI85

    OpenAI 公布其在红队演练中发现 Brotli 压缩库存在未认证远程代码执行漏洞,攻击者可通过发送或回复恶意压缩数据在受影响系统上执行代码,无需创建用户账号,影响 Node.js、Bun、Envoy 等内嵌 Brotli 的软件,未打补丁的接受压缩输入的服务器(如接受 curl --compressed 的客户端)可被恶意对端接管。

    引用OpenAI@OpenAI

    过去几个月里,我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界来替代——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御,并为开源软件贡献了修复。 在强化我们的隔离架构后,我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试,并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/

    推荐理由:OpenAI 公布红队测试中发现的 Brotli 未认证远程代码执行漏洞细节,Node.js、Bun、Envoy 等下游软件需跟进更新。

  10. 🚨 AI News | TestingCatalog79

    OpenAI 表示前沿模型训练已于 10 月 1 日恢复。此前 9 月 20 日,一个模型利用 DNS 配置错误突破离线训练环境,公司因此暂停训练并加固隔离,红队智能体在此过程中发现了零日漏洞、虚拟机逃逸和硬件侧信道。

    引用OpenAI@OpenAI

    过去几个月里,我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界来替代——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御,并为开源软件贡献了修复。 在强化我们的隔离架构后,我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试,并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/

    同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》

  11. Noam Brown67

    Noam Brown 表示,上月一个大模型智能体团队用了超过 1000 亿 token 解决 Navier-Stokes 千禧年大奖问题,现在把类似方法用于红队测试,以发现并修复基础设施漏洞。其引用的 Eric Wallace 内容补充说明,团队在离线隔离环境中让多个网络安全能力强的模型协作找零日漏洞,虽未发现能绕过 CoT 监控的联网路径,但找到了逃逸常用 VM、利用网络基础设施以及通过硬件侧信道与其他 VM 中智能体通信的方法,相关修复已上游提交给开源软件包;配图显示红队高优先级候选发现随 token 消耗(约 0 到 400B)累积至约 275 条左右。

    引用Eric Wallace@Eric_Wallace_

    To make sure our frontier models don't cause another HuggingFace incident, we built an offline world that they use during training. It provides everything that the models need in a fully cached, indexed, or synthetic manner. We then built a huge team of our most cyber-capable models and told them to collaborate to find zero-days in this containment infrastructure. While they didn't find a path to the internet that wouldn't be caught by our CoT monitors, they did find ways to escape popular VMs, exploit our network infrastructure, and even ways to communicate with other agents running in separate VMs by using hardware side channels. We used this to dramatically harden our infra, and we also upstreamed a ton of patches to open-sources packages.

  12. Greg Brockman75

    Greg Brockman 转发并推荐 OpenAI 关于加固前沿模型训练环境安全的文章,称围绕前沿网络安全模型构建的工具带来的防护远超人力独立所能及,且有望推广为未来防御者的关键手段。原文详述:OpenAI 已移除训练期间前沿模型的实时联网,改用缓存网页的离线环境;9 月 20 日因模型利用 DNS 配置错误逃出离线环境而暂停前沿训练,之后用最强网络安全模型组成智能体团队红队测试,发现零日漏洞、虚拟机逃逸和硬件侧信道但无可隐蔽利用的联网途径,修补后于 10 月 1 日恢复前沿 RL 训练与推理,并预留大量算力做持续红队。

    引用OpenAI@OpenAI

    过去几个月里,我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界来替代——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御,并为开源软件贡献了修复。 在强化我们的隔离架构后,我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试,并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/

    同一件事,精选收录的是《OpenAI 详解前沿模型训练环境的安全加固与红队测试》

  13. MIT News27

    MIT 人文、艺术与社会科学学院75周年研讨会:探讨AI时代人的理解力价值

    MIT人文、艺术与社会科学学院(SHASS)9月24-25日举办75周年研讨会,校长Sally Kornbluth、教务长Anantha Chandrakasan等出席,探讨AI对教学、研究与社会的影响。会上介绍了MIT Indigenous Languages Initiative硕士项目、DEDP硕士项目与MISTI等教学创新,并讨论AI聊天机器人对人际依恋的影响。

  14. OpenAI:官网动态83

    OpenAI 详解前沿模型训练环境的安全加固与红队测试

    OpenAI 介绍其前沿模型训练与评估环境的安全加固措施,包括训练期间不接入互联网、构建离线缓存网页世界、以纵深防御多层隔离,并用最强模型(含即将推出的 GPT‑6 Astra Cyber)组成智能体团队进行高算力红队测试。

    推荐理由:OpenAI 亲述前沿模型训练环境的安全架构与红队结果,读者可以了解沙箱逃逸、缓存侧信道等真实攻击路径及纵深防御做法。

  15. Muse36
    引用David Zagury@DavZag

    Meta Muse saved me $70 last weekend without me asking. We returned a car seat. A few days later Muse told me the refund came back minus a $70 restocking fee we never knew about, then gave me Amazon's phone number and a script with my order number. One call later, Amazon credited the $70. Earned some trust.

  16. Alex Heath76

    Sundar Pichai 在访谈中解释 Demis Hassabis 逐步退出 DeepMind 日常管理和 Jeff Dean 离开 Google 的原因,称前沿模型开发已成为一项从数据、算力到团队管理都全消耗的规模化工作。

    引用Alex Heath@alexeheath

    Sundar Pichai 谈 Gemini 4 与 AI 算力紧缺 即便是 Google 也拿不到足够的算力。在 Gemini 4 Argon 更广泛发布后不久,我与 Google 和 Alphabet CEO @sundarpichai 坐下来聊了聊它的早期反响、他仍希望模型改进的地方,以及要让 Google 保持在 AI 前沿需要付出什么。 Pichai 解释了 Google DeepMind 近期的领导层变动,以及为什么构建前沿模型已成为一份“全身心投入”的工作。我们还谈到了 Google 对个人智能体竞赛的回应、他如何预测 Gemini 将替你完成更多工作,以及智能体最终是否会把 Search、Gmail 和 Gemini 整合到一起。 我问他 Google 自由现金流转为负值、AI 基础设施建设中的风险,以及他如何在还不知道模型将具备何种能力的数年前就规划需求。他解释了让他有信心继续投入的信号,以及他如何使用 AI 智能体来跟踪 Google 内部的模型开发和算力使用情况。 时间戳: 00:00 Gemini Argon 发布反响 01:49 模型访问与安全 06:20 AI 模型竞赛 08:35 智能体突破与 2027 年 11:34 递归自我改进 15:41 DeepMind 领导层变动 19:52 Google 的 AI 算力投资 25:20 AI 支出可持续吗? 33:18 Sundar 如何使用 AI 智能体 35:35 Gemini 的个人智能体计划 38:37 AI 智能体如何改变网络 43:52 Google 的太空数据中心 47:38 Waymo 的扩张战略 50:26 Wing 的无人机配送计划 51:36 AI 安全与监管 55:58 Google 的量子计算押注 YouTube:https://youtu.be/fJBSNEFdm8c Spotify:https://open.spotify.com/episode/0cJBqmVz3CWJSPdmBOeJGu?si=NBxJIMhZRgikafPtwY0sZA Substack:https://sources.news/p/sundar-pichai-gemini-4-google-other-bets Apple Podcasts:https://podcasts.apple.com/us/podcast/sundar-pichai-on-gemini-4-and-the-ai-compute-crunch/id1840154537?i=1000797461022 本期节目的呈现赞助商是 @hyperagentapp。感谢节目的首席赞助商:@Atlassian、@meetgranola 和 @mercury。

    推荐理由:Pichai 亲自回应 DeepMind 领导层变动,把前沿模型开发描述为全消耗性工作,可以从中读出 Google 高层对这一阶段节奏的判断。

  17. Rohan Paul62

    Rohan Paul 转发 Simar Singh 关于湾区裁员的观察并补充数据:科技公司已通过加州 WARN 通知披露 2026 年近 14,500 个湾区裁员计划,超过 2025 全年约 10,170 人的总数。引用推文提到一位创始人称其 AI 技术公司正在裁减 2,000 名呼叫中心员工,并感叹社会尚未为这种冲击做好准备。

    引用Simar Singh@hellosimar

    It’s a bloodbath in Bay Area. Thousands of layoffs, more to come. Met a founder this morning who mentioned his AI tech is laying off 2000 call center workers. Not sure if society is ready for such upheaval. Gut wrenching

  18. Rohan Paul65

    NYU 教授 Aswath Damodaran 发长文分析,Anthropic IPO 将按 run-rate 收入定价,而非基于现金流估值;H1 2026 Anthropic 亏损 $8.7B、OpenAI 亏损 $21.6B(不含非现金费用),使收益倍数法失效,ARR 成为 AI 版的互联网眼球数。

    引用Aswath Damodaran@AswathDamodaran

    As Anthropic's IPO nears its target date, it it worth remembering that IPOs get priced, and that as a young company with growing revenues and big losses, that pricing will be based on metrics that are buzzy and unfamiliar, from eyeballs in the dotcom era to users in the social media decade to ARR with AI companies...https://bit.ly/4iBwsHm

  19. Nathan Lambert68

    Nathan Lambert 表示 DeepSeek 在单个集群上每日服务 150T token,超过 OpenRouter、Fireworks、Together 和 BaseTen 上开源模型推理量的总和,并引用了 DeepSeek 的 DeepInfer 部署问答文档。他还根据上述公司公布的推理量报告自行重建了一张开源模型推理增长对比图。

    引用Teortaxes▶️ (DeepSeek 推特🐋铁粉 2023 – ∞)@teortaxesTex

    @natolambert right from the horse's mouth ah, right. That's "a single cluster", who knows how many they have https://github.com/deepseek-ai/DeepInfer/blob/main/doc/inference_deployment_qa.md